OpenAI DevDay -tapahtuma järjestettiin 6.11.2023, ja OpenAI:n toimitusjohtaja Sam Altman ylitti jälleen odotukset, tarjoten AI-kehittäjille uusia mahdollisuuksia. Tässä artikkelissa tutustumme siihen, mikä tekee GPT-4 Turbosta houkuttelevan ohjelmistokehittäjille.

OpenAI järjesti DevDay-tapahtuman 6.11.2023, ja samalla kun muut suuret teknologiayritykset yrittävät yhä saavuttaa GPT-4:n suorituskyvyn, OpenAI:n toimitusjohtaja Sam Altman ylitti jälleen odotukset, tarjoten AI-kehittäjille uusia mahdollisuuksia ja vahvistaen OpenAI:n johtavaa asemaa tekoälyssä.

Tehokas GPT-4 Turbo: nopeampi, suurempi tekstimäärä ja edullisempi

Konteksti viittaa syötettyjen suurten kielimallien vihjeiden ja keskustelujen kokonaismäärään. Aiemmin suurin tekstimäärä oli 32 000 tokenia (vain osalle kehittäjistä), mutta GPT-4 Turbo tukee jopa 128 000 tokenia, mikä vastaa 300-sivuisen kirjan syöttämistä kerralla GPT-4 Turbolle. Nopeuden osalta GPT-4:n suurin heikkous oli hitaus, mikä aiheutti viivästyksiä. Yritykset käyttivätkin usein GPT-3.5:ta käytännön ongelmien ratkaisemiseen. GPT-4 Turbo ratkaisee tämän ongelman, ja sen nopeus lähestyy GPT-3.5:n tasoa, mikä rikastuttaa tulevia GPT-4 Turbon integrointimahdollisuuksia. Kustannuksiltaan GPT-4 Turbo on kaksi kertaa edullisempi vihjeiden osalta ja puolet halvempi tekstin tuottamisessa verrattuna edelliseen GPT-4-versioon.

Kehittäjäystävällinen funktiokutsuominaisuus

Mikä on funktiokutsu?

OpenAI julkaisi aiemmin tänä vuonna funktiokutsuominaisuuden, jonka avulla kehittäjät voivat kutsua mukautettuja koodifunktioita GPT:n käytön aikana. Tämä tarkoittaa, että älykäs AI voi yhdistää erilaisia API-rajapintoja, mikä laajentaa OpenAI:n käyttömahdollisuuksia. Mallin vahvuus on siinä, että kehittäjät voivat tarjota useita ohjelmointikäyttöliittymiä, ja GPT voi itsenäisesti päättää, mitä komentoa kutsua ja käyttää sopivia parametreja.

Mitä muutoksia tehtiin?

Päivityksen myötä GPT pystyy tarkemmin arvioimaan, mitä komentoa ja parametreja tulisi käyttää, ja se voi kutsua useita komentoja kerralla. Aiemmin monimutkaisemmissa tilanteissa kehittäjät joutuivat kirjoittamaan ohjelmia useiden kutsujen suorittamiseksi. Nyt GPT voi suorittaa useita komentoja kerralla ja siirtää tuloksia komennosta toiseen. Esimerkiksi, jos syötetään vihje "Herään usein yöllä juomaan vettä, aseta sopiva valaistus", GPT voi kutsua "asetaväri" ja "asetaaika" komennot ja määrittää "asetaaika" parametriksi "01:00-06:30" ja "asetaväri" parametriksi "yövalo".

Lisäksi kielimallien vastaukset olivat aiemmin "ei-spesifisessä tekstimuodossa", ja jos haluttiin tietty muoto, se piti pyytää vihjeessä. Kehittäjät kohtasivat usein ongelmia, kun vastaukset eivät olleet täysin XML-muodossa, mikä aiheutti virheitä muunnoksissa. Nyt GPT-4 Turbo mahdollistaa kehittäjien asettaa response_format-parametrin, joka voi olla XML tai JSON, mikä parantaa ohjelman vakautta.

Lopuksi, OpenAI sallii käyttäjien asettaa Seed-parametrin, joka määrittää GPT:n vastausten satunnaisuuden. Tämä parametri varmistaa, että kehittäjät voivat luottaa kielimallin johdonmukaisuuteen testitapauksia kirjoittaessaan, mikä parantaa ohjelman testattavuutta ja laatua.


Edellä mainittujen julkaisujen lisäksi avustaja-API:n julkaisu on DevDay-tapahtuman kohokohta.

Avustaja-API (Assistants API)

Aiemmin, jos haluttiin käyttää suurta kielimallia generatiivisten AI-sovellusten kehittämiseen, tarvittiin LangChainin kaltaisia kolmannen osapuolen kirjastoja, jotka antoivat suurelle kielimallille kehittyneempiä kykyjä, kuten monikielimallien käyttö, mukautetut tiedot, muisti ja agentit (Agent, joka mahdollistaa AI:n suorittaa jatkuvia tehtäviä ja päätöksiä), jotta voitiin toteuttaa monimutkaisempia AI-skenaarioita.

DevDay-tapahtumassa julkaistu avustaja-API yhdistää edellä mainitut kyvyt viralliseen API:iin, mikä poistaa kehittäjiltä kolmannen osapuolen kirjastojen integrointiin liittyvät ongelmat. Tämä on ensimmäinen kerta, kun virallinen taho siirtyy pelkästä suuren kielimallin suorituskyvyn optimoinnista "agenttien" sovellusten tutkimiseen. Virallisten asiakirjojen mukaan "avustaja on tavoitekeskeinen AI, joka sallii käyttää tiettyjä komentoja, ulkoisia tietoja tai eri kielimalleja ja työkaluja tehtävien suorittamiseen".

Uusi avustaja-API sisältää myös useita työkaluja, kuten "funktiokutsun", "koodin tulkin" ja "tiedonhakutoiminnon".

Koodin tulkki (Code Interpreter)

GPT-4:n "koodin tulkki" sallii itse kirjoitetun koodin suorittamisen hiekkalaatikkoympäristössä (tällä hetkellä vain Pythonia tuetaan). Aiemmin insinöörit kopioivat GPT-4:n avulla kirjoitetun koodin omaan kehitysympäristöönsä testatakseen sitä. OpenAI:n tarjoama hiekkalaatikkoympäristö riittää GPT-4:lle tarkistamaan koodin oikeellisuuden ja muokkaamaan koodia itsenäisesti, kunnes tavoite saavutetaan.

Koodin tulkin merkitys on suurempi kuin "antaa GPT-4:n tarkistaa oman koodinsa oikeellisuus". Sen suurempi merkitys on "antaa suurelle kielimallille oma tietokone", joka voi suorittaa useimmat tehtävät. Vaikka suoritus on rajoitettu hiekkalaatikkoympäristöön, joka sallii vain tiettyjen kolmannen osapuolen kirjastojen käytön, se riittää suorittamaan "useimmat Python-kielen tehtävät", kuten tietojenkäsittelyn ja API-kutsut, ja lukemaan käyttäjän tarjoamia suurempia kooditiedostoja. Hiekkalaatikkoympäristö tarjoaa turvallisuuden, joka estää suuren kielimallin voimakkaiden kykyjen väärinkäytön, ja tarjoaa näin tietyn turvallisuustason.

Tiedonhaku (Retrieval)

"Tiedonhaku" antaa käyttäjille mahdollisuuden ladata omia tietojaan (esim. tietyn toimialan tiedot, tuotetiedot tai sisäiset asiakirjat) ja antaa suuren kielimallin vastata näihin tietoihin liittyviin kysymyksiin, soveltaen niitä omalla alallaan tai toimialallaan. Tämä ominaisuus on ollut keskeinen kilpailualue GPT-3:n julkaisusta lähtien. DevDay-tapahtumassa julkaistu tiedonhaku on ensimmäinen kerta, kun virallinen taho tarjoaa alkuperäisen ratkaisun tähän ominaisuuteen. Esimerkiksi yritykset voivat luoda sisäisiä tietorobotteja, kuten AI-projektipäälliköitä tai AI-järjestelmäanalyytikoita; terveydenhuollon ja rahoituksen asiakaspalvelurobotteja, jotka aiemmin vaativat monimutkaista kieltenkäsittelytekniikkaa. Nyt GPT-4:n voimakkaan kielimallin ja OpenAI:n virallisesti tarjoaman tiedonhaun avulla kehittäjät voivat keskittyä liiketoimintalogiikkaan, tietojen tarkkuuteen ja yksityiskohtien hienosäätöön. Aiemmin tarvittavat kolmannen osapuolen kirjastot, kuten vektoridatabankit, tietojen segmentointi tai tietyt hakualgoritmit, eivät enää vaadi ylimääräistä työtä OpenAI:n virallisen tuen ansiosta. OpenAI korostaa myös, että avustaja-API:n käytössä olevia keskusteluja ja tiedostoja ei käytetä OpenAI:n seuraavan sukupolven mallin kouluttamiseen.

Lopuksi

Kaiken kaikkiaan OpenAI ei ainoastaan optimoi mallin tehokkuutta, vaan laajentaa jatkuvasti suuren kielimallin sovelluksia. Sam Altman on sanonut, että GPT-5 ei tule markkinoille lähiaikoina, ja nykyisen GPT-4:n tarkkuuden vuoksi ei ole välttämätöntä käyttää suuria kustannuksia suuremman parametrimallin kouluttamiseen. Sen sijaan GPT-4:n suorituskyvyn, käytettävyyden ja laajennettavuuden parantaminen on OpenAI:n nykyinen painopiste. Kehittäjille, yrityksille ja loppukäyttäjille voimakkaampien ja useimmissa tilanteissa sovellettavien AI-ratkaisujen käyttöönotto on seuraavan sukupolven digitaalisen muutoksen keskeinen osa. OpenAI:n luoma GPT on kuin tulevaisuuden teknologisen maailman aivot, ja uskomme, että seuraavat innovaatiot ja edistysaskeleet tekevät tekoälystä entistä taitavamman työkalujen käytössä, "näkemisessä", "kuulemisessa" sekä sujuvassa "puhumisessa" ja "piirtämisessä".