2023 m. lapkričio 6 d. vykusiame OpenAI DevDay renginyje OpenAI generalinis direktorius Sam Altman vėl pranoko lūkesčius, suteikdamas AI kūrėjams naujų galimybių. Šiame straipsnyje sužinosime, kokį žavesį GPT-4 Turbo turi programinės įrangos kūrėjams.

OpenAI 2023 m. lapkričio 6 d. surengė OpenAI DevDay renginį. Kol kitos didžiosios technologijų kompanijos vis dar stengiasi pasivyti GPT-4 našumą, OpenAI generalinis direktorius Sam Altman vėl pranoko lūkesčius, suteikdamas AI kūrėjams naujų galimybių ir pademonstruodamas OpenAI lyderystę dirbtinio intelekto srityje.

GPT-4 Turbo: greitesnis, didesnis tekstų kiekis ir pigesnis

Kontekstas reiškia „įvesties žodžius ir dialogą su dideliu kalbos modeliu“. Anksčiau didžiausias tekstų kiekis buvo 32 000 tokenų (tik daliai kūrėjų), o GPT-4 Turbo leidžia iki 128 000 tokenų, kas prilygsta 300 puslapių knygos įvedimui vienu metu. Kalbant apie greitį, GPT-4 dažnai kritikuojamas dėl lėto veikimo, todėl įmonės dažniau naudoja GPT-3.5 praktinėms problemoms spręsti. GPT-4 Turbo išsprendžia šią problemą, pasiekdamas GPT-3.5 greitį ir praturtindamas būsimus integravimo scenarijus. Kalbant apie kainą, palyginti su ankstesne GPT-4 versija, įvesties žodžių kaina sumažėjo tris kartus, o išvesties tekstų kaina sumažėjo dvigubai.

Draugiškesnė kūrėjams funkcijų iškvietimo funkcija

Kas yra funkcijų iškvietimas?

OpenAI šiais metais pristatė „funkcijų iškvietimo“ funkciją, leidžiančią kūrėjams naudoti GPT ir iškviesti pritaikytas programavimo funkcijas. Kitaip tariant, tai leidžia išmaniam AI prisijungti prie įvairių API, žymiai padidinant OpenAI naudojimo sritis. Modelio galingumas slypi tame, kad kūrėjui pateikus kelias programos komandas, GPT gali savarankiškai nuspręsti, kurią komandą iškviesti ir kokius parametrus naudoti.

Pavyzdys: išmaniosios lemputės kūrėjas pateikia dvi komandas: „nustatyti spalvą“ ir „nustatyti jutiklio laiką“. Spalvos nustatymo komandos parametrai yra trys: balta šviesa, natūrali šviesa ir naktinė lempa. Kai GPT pateikiama užklausa „nustatykite tinkamą nakties lemputę“, GPT automatiškai pasirenka „nustatyti spalvą“ komandą ir naudoja parametrą „naktinė lempa“, visiškai be žmogaus įsikišimo. Anksčiau reikėjo naudoti NLP technologijas, kad būtų galima parašyti pritaikytą logiką šiai funkcijai pasiekti, dabar tai galima padaryti tiesiog iškviečiant GPT programą.

Ką šį kartą pakeitė?

Šis atnaujinimas leidžia GPT tiksliau nustatyti, kurią komandą ir parametrus naudoti, tuo pačiu pagerinant GPT galimybę iškviesti tik vieną komandą vienu metu. Anksčiau, kai situacija buvo sudėtingesnė, kūrėjai turėjo rašyti papildomą programą, kad funkcija būtų iškviesta kelis kartus; šis atnaujinimas leidžia GPT vykdyti kelias komandas vienu metu ir perduoti kiekvienos komandos rezultatus. Pavyzdžiui, naudojant užklausą „Aš įpratęs naktį atsikelti ir gerti vandens, nustatykite tinkamą lemputės režimą“, GPT gali nuspręsti iškviesti „nustatyti spalvą“ ir „nustatyti jutiklio laiką“ komandas, nustatydamas „jutiklio laiką“ kaip „01:00 iki 06:30“, ir naudoti „nustatyti spalvą“ su parametru „naktinė lempa“.

Be to, kalbos modelio atsakymai anksčiau buvo „neapibrėžto formato tekstas“, jei norėjote konkretaus formato atsakymo, reikėjo užklausoje nurodyti „atsakykite XML formatu“; tačiau kūrėjai dažnai susidurdavo su problema, kad atsakymo formatas ne visada buvo XML, dažnai buvo įterpiamas grynas tekstas, dėl kurio kilo klaidų formatuojant. Šį kartą GPT-4 Turbo leidžia kūrėjams nustatyti atsakymo formatą, pvz., XML arba JSON, dažniausiai naudojamus API atsakymo formatus, užtikrinant didesnį programos stabilumą.

Galiausiai, OpenAI leidžia vartotojams nustatyti Seed parametrą, kuris lemia GPT atsakymo atsitiktinumą. Naudojant šį parametrą, kūrėjai gali užtikrinti, kad kalbos modelio atsakymai būtų nuoseklūs, leidžiant kūrėjams rašyti testavimo atvejus su didesniu pasitikėjimu (išvengiant netikėtų atsakymų), taip padidinant programos testuojamumą ir kokybę.


Be šių dviejų paskelbtų funkcijų, kalbant apie taikymo scenarijų plėtrą, Assistant API paskelbimas yra DevDay pagrindinis akcentas.

Assistant API

Anksčiau, norint naudoti didelį kalbos modelį generatyvinėms AI programoms kurti, reikėjo naudoti trečiųjų šalių paketus, tokius kaip LangChain, suteikiančius didesnį kalbos modelio pajėgumą, pvz., kelių kalbų modelių naudojimą, pritaikytų duomenų galimybes, atmintį ir agentus (leidžiančius AI vykdyti nuoseklias užduotis ir sprendimus), kad būtų galima įgyvendinti sudėtingesnius AI scenarijus.

DevDay metu paskelbtas Assistant API integruoja minėtas galimybes į oficialų API, pašalindamas kūrėjų susidūrimus su trečiųjų šalių paketų integravimo problemomis. Tai yra pirmas kartas, kai oficialiai peržengta vien tik didelio kalbos modelio našumo optimizacija ir pradėta tyrinėti „agentų“ taikymą. Oficialūs dokumentai nurodo, kad „asistentas yra tikslų siekiantis AI, leidžiantis naudoti specifines komandas, išorinius duomenis ar skirtingus kalbos modelius ir įrankius užduotims atlikti“.

Naujas Assistant API taip pat turi keletą įrankių, be minėto „funkcijų iškvietimo“, taip pat siūlo „kodo kompiliatorių“ ir „duomenų paiešką“.

Kodo kompiliatorius

GPT-4 „kodo kompiliatorius“ leidžia savarankiškai parašytą kodą vykdyti smėlio dėžės aplinkoje (šiuo metu palaikomas tik Python). Anksčiau inžinieriai, gavę GPT-4 pagalbą rašant kodą, turėjo kopijuoti ir įklijuoti jį į savo kūrimo aplinką testavimui, tačiau OpenAI teikiama smėlio dėžės aplinka leidžia GPT-4 savarankiškai patikrinti kodo teisingumą ir palaipsniui koreguoti kodą pagal vykdymo rezultatus, kol pasiekiamas tikslas.

Kodo kompiliatoriaus funkcija yra daug platesnė nei „leisti GPT-4 patikrinti savo parašyto kodo teisingumą“. Jo didesnė reikšmė yra „suteikti dideliam kalbos modeliui savo kompiuterį“, kuris gali vykdyti daugumą užduočių. Dabar dideli kalbos modeliai gali sąveikauti per komandų programas, nors vykdymas ribotoje smėlio dėžės aplinkoje leidžia kodo kompiliatoriui naudoti tik tam tikrus trečiųjų šalių paketus, tačiau tai pakanka „daugumai Python programavimo kalbos užduočių“, tokių kaip duomenų apdorojimas ir API iškvietimas, bei gali skaityti didesnius vartotojo pateiktus kodo failus. Smėlio dėžės aplinka, kalbant apie saugumą, gali užkirsti kelią didelio kalbos modelio galingumo piktnaudžiavimui, todėl saugumas yra užtikrintas.

Duomenų paieška

„Duomenų paieška“ leidžia vartotojams įkelti savo duomenis (pvz., specifinės pramonės srities duomenis, produktų informaciją ar vidinius dokumentus) ir leisti dideliam kalbos modeliui atsakyti į klausimus apie šiuos duomenis, pritaikant juos savo pramonėje ar srityje. Ši funkcija nuo GPT-3 atsiradimo buvo pagrindinis daugelio diskusijų objektas. DevDay metu paskelbta duomenų paieška yra pirmas kartas, kai šiai funkcijai suteikiamas natūralus sprendimas, pvz., leisti įmonėms kurti vidinius žinių robotus, tokius kaip AI projektų vadovai, AI sistemų analitikai; medicinos, finansų ir kitose srityse naudojami klientų aptarnavimo robotai, kuriems anksčiau reikėjo sudėtingų kalbos apdorojimo technologijų. Dabar, turint GPT-4 galingą kalbos modelį ir OpenAI oficialiai teikiamą duomenų paieškos funkciją, kūrėjai gali sutelkti dėmesį į verslo logiką, duomenų tikslumą ir detalių derinimą. Be to, anksčiau naudojant trečiųjų šalių paketus reikėjo vektorių duomenų bazių, duomenų segmentavimo ar specifinių paieškos algoritmų, tačiau su OpenAI oficialia parama, nereikia papildomai tvarkyti šių kūrimo procesų ir jų išlaidų. OpenAI taip pat pabrėžia, kad Assistant API naudojami pokalbiai ir failai nebus naudojami OpenAI kitos kartos modelio mokymui.

Išvada

Apibendrinant, OpenAI ne tik nuolat optimizuoja modelio efektyvumą, bet ir toliau plečia didelio kalbos modelio taikymą. Sam Altman teigė, kad GPT-5 artimiausiu metu nebus išleistas, nes dabartinis GPT-4 tikslumas rodo, kad papildomos išlaidos mokant didesnio parametro kalbos modelį nėra būtinos. Vietoj to, OpenAI šiuo metu sutelkia dėmesį į GPT-4 našumo, naudojimo paprastumo ir išplėtimo galimybių gerinimą. Kūrėjams, įmonėms ir galutiniams vartotojams, įtraukiant daugiau galingų AI, kurie gali būti naudojami daugelyje scenarijų, tampa kitos kartos skaitmeninės transformacijos akcentu. OpenAI sukurtas GPT yra tarsi ateities technologijų pasaulio smegenys, ir mes tikime, kad ateities kūryba ir pažanga padarys dirbtinį intelektą dar labiau įgudusį naudoti įrankius, „matyti“, „girdėti“ ir sklandžiai „kalbėti“ bei „piešti“.