На конференцији OpenAI DevDay одржаној 06.11.2023, генерални директор OpenAI, Сем Алтман, поново је надмашио OpenAI, пружајући нове могућности за AI програмере. У овом тексту, сазнајмо шта GPT-4 Turbo доноси за софтверске програмере.

OpenAI је 06.11.2023. организовао конференцију OpenAI DevDay. Док су друге велике технолошке компаније још увек покушавале да достигну перформансе GPT-4, генерални директор OpenAI, Сем Алтман, поново је надмашио OpenAI, пружајући нове могућности за AI програмере, чиме је OpenAI показао своју водећу позицију у области вештачке интелигенције.

Моћни GPT-4 Turbo: бржи, већи обим текста и јефтинији

Контекст се односи на укупну количину текста „унетог у велики језички модел као упит и одговор“. Претходно је максимална подршка била до 32.000 токена (и то само за неке програмере), док GPT-4 Turbo омогућава до 128.000 токена, што је еквивалентно уносу књиге од 300 страница у GPT-4 Turbo за генерисање. Што се тиче брзине, највећа замерка GPT-4 је била спора брзина, што је често трошило много времена током процеса генерисања, па су компаније чешће користиле GPT-3.5 за решавање већине практичних проблема. GPT-4 Turbo је решио овај проблем, чинећи брзину генерисања ближом GPT-3.5, обогаћујући будуће сценарије интеграције GPT-4 Turbo. Што се тиче трошкова, у поређењу са претходном верзијом GPT-4, трошкови упита су три пута јефтинији, а трошкови излазног текста су два пута јефтинији.

Функција позивања функција прилагођена програмерима

Шта је позивање функција?

OpenAI је раније ове године објавио функцију „позивање функција“, која омогућава програмерима да позивају прилагођене код функције док користе GPT. Другим речима, омогућава интелигентном AI-у да се повеже са различитим API-јима, значајно повећавајући области у којима OpenAI може да се користи. Снага овог модела лежи у томе што, када програмери обезбеде више интерфејса команди, GPT може самостално да одлучи коју команду да позове и да користи одговарајуће параметре за извршење.

Пример: Програмер паметне сијалице обезбеђује две команде: „подеси боју“ и „подеси време сензора“. Параметри команде за подешавање боје су три: бела светлост, природна светлост и ноћна лампа. Када GPT-у унесете упит: „Молим вас, подесите одговарајућу сијалицу за ноћ“, GPT ће аутоматски одлучити да користи команду „подеси боју“ и аутоматски користити параметар „ноћна лампа“, без потребе за људском интервенцијом. Раније је било потребно користити NLP технологију за писање прилагођене логике да би се постигла ова функција, али сада се то може постићи само позивањем GPT програма.

Шта је измењено овог пута?

Овај пут ажурирање омогућава GPT-у да прецизније одреди коју команду и параметре треба користити, истовремено побољшавајући могућност GPT-а да позове више команди одједном. Раније, када је ситуација била сложенија, програмери су морали да пишу додатни код како би функција извршила више позива; ово ажурирање омогућава GPT-у да изврши више команди одједном и да резултати сваке команде могу да се преносе једни другима. На пример: када се унесе упит „Навикао сам да устајем усред ноћи да пијем воду, молим вас подесите одговарајући режим сијалице“, GPT може одлучити да позове команде „подеси боју“ и „подеси време сензора“, и одредити параметар „време сензора“ као „време 01:00 до 06:30“, истовремено користећи „подеси боју“ са параметром „ноћна лампа“.

Поред тога, раније су одговори језичког модела били у формату „неодређеног текста“, ако је било потребно одговорити у одређеном формату, било је потребно у упиту навести „молимо одговорите у xml формату“; међутим, програмери су често наилазили на проблем да одговор није увек у xml формату, често садржи делове чистог текста, што је доводило до грешака у конверзији формата. Овај пут GPT-4 Turbo омогућава програмерима да подесе параметар response_format, који се може подесити на xml или json, што су уобичајени формати повратка API-ја, чиме се повећава стабилност програма.

На крају, OpenAI такође омогућава корисницима да подесе параметар Seed, који одређује случајност садржаја који GPT враћа. Подешавањем овог параметра, програмери могу осигурати да језички модел враћа конзистентне резултате, што омогућава програмерима да буду сигурнији приликом писања тест случајева (избегавајући да језички модел изненада да другачије одговоре), чиме се повећава тестабилност и квалитет програма.


Поред горе наведених две тачке, објављивање Assistants API је главни догађај DevDay-а у смислу проширења сценарија примене.

Assistants API

Раније, ако сте желели да користите велики језички модел за развој генеративних AI апликација, било је потребно користити LangChain и друге треће стране пакете, да би се великом језичком моделу дале напредније способности, као што су: коришћење више језичких модела, могућност прилагођавања података, меморија и агенти (Agent, омогућавајући AI-у да извршава континуиране задатке и доноси континуиране одлуке), како би се завршиле сложеније AI сценарије примене.

На DevDay-у је објављен Assistants API, који интегрише више горе наведених способности у званични API, чиме се програмерима штеде разне невоље приликом интеграције трећих страна пакета. Ово је први пут да је званично изашло из оквира једноставне оптимизације перформанси великог језичког модела и почело да истражује примену „агената“. Званична документација наводи да је „асистент циљно оријентисан AI, који омогућава коришћење специфичних команди, коришћење спољних података или коришћење различитих језичких модела и алата за извршавање задатака“.

Нови Assistants API такође има уграђене алате, поред горе поменутог „позивања функција“, такође пружа „компилатор кода“ и „претраживање података“.

Компилатор кода

„Компилатор кода“ у GPT-4 омогућава извршавање кода написаног у песковитом окружењу (тренутно подржава само Python). Раније, када су инжењери добијали помоћ од GPT-4 у писању кода, морали су да копирају и налепе код у своје развојно окружење за тестирање, док песковито окружење које пружа OpenAI омогућава GPT-4 да самостално провери исправност кода и да постепено самостално модификује код на основу резултата извршавања, све док не постигне циљ.

Међутим, улога компилатора кода је далеко већа од „провере исправности кода који је GPT-4 написао“, његов већи значај лежи у томе што „велики језички модел има свој рачунар“, рачунар који може извршавати већину задатака. Сада велики језички модели могу да интерагују у облику командног програма, иако извршавање у ограниченом песковитом окружењу омогућава компилатору кода да користи само одређене треће стране пакете, али је довољно за извршавање „већине задатака које Python програмски језик добро обавља“, као што су: обрада података и API позиви, и може читати веће датотеке кода које корисник пружа. Песковито окружење, у смислу безбедности, може спречити злоупотребу моћних способности великог језичког модела, чиме се обезбеђује одређени ниво безбедности.

Претраживање података

„Претраживање података“ омогућава корисницима да отпреме своје податке (на пример: подаци из одређене индустрије, информације о производима или интерни документи) и омогућава великом језичком моделу да одговара на основу тих података, примењујући их у својој индустрији или области. Ова функција је од појаве GPT-3 била у центру пажње многих. Претраживање података објављено на DevDay-у је први пут да је званично понуђено оригинално решење за ову функцију, на пример: омогућавање предузећима да креирају унутрашње роботе за знање, као што су AI пројектни менаџери, AI системски аналитичари; у областима као што су здравство, финансије и други, роботи за корисничку подршку, који су раније захтевали сложене технике обраде језика да би се реализовали, сада са моћним језичким моделом GPT-4 и функцијом претраживања података коју пружа OpenAI, омогућавају програмерима да се фокусирају на пословну логику, тачност података и подешавање детаља. Поред тога, раније је било потребно користити треће стране пакете за векторске базе података, обраду сегментације података или специфичне алгоритме претраге, али уз подршку OpenAI-а, више није потребно додатно радити на овим развојним процесима и њиховим трошковима. OpenAI је посебно нагласио да се разговори и датотеке које користи Assistants API неће користити за обуку следеће генерације OpenAI модела.

Закључак

У целини, OpenAI не само да континуирано оптимизује ефикасност модела, већ и наставља да проширује примену великог језичког модела. Сем Алтман је рекао да GPT-5 неће бити објављен у блиској будућности, а с обзиром на прецизност GPT-4, додатни трошкови за обуку језичког модела са већим параметрима изгледају непотребни. Уместо тога, побољшање перформанси, једноставности коришћења и проширивости GPT-4 је тренутни фокус OpenAI-а; а за програмере, предузећа и крајње потрошаче, увођење моћнијег AI-а који се може применити у већини сценарија постаје кључна тачка следеће генерације дигиталне трансформације. GPT који је створио OpenAI је као мозак у будућем свету технологије, и верујемо да ће следеће иновације и напредак учинити вештачку интелигенцију бољом у коришћењу алата, као и да ће „видети“, „чути“ и течно „говорити“ и „цртати“.