Pada tanggal 2023/11/06, OpenAI mengadakan acara peluncuran OpenAI DevDay, di mana CEO OpenAI, Sam Altman, sekali lagi melampaui batas OpenAI, memberikan kemungkinan baru bagi pengembang AI. Melalui artikel ini, mari kita pahami daya tarik GPT-4 Turbo bagi pengembang perangkat lunak.

OpenAI mengadakan acara peluncuran OpenAI DevDay pada tanggal 2023/11/06. Sementara perusahaan teknologi besar lainnya masih berusaha mengejar kinerja GPT-4, CEO OpenAI, Sam Altman, sekali lagi melampaui batas OpenAI, memberikan kemungkinan baru bagi pengembang AI, menunjukkan posisi terdepan OpenAI dalam kecerdasan buatan.

GPT-4 Turbo yang Luar Biasa: Lebih Cepat, Kapasitas Teks Lebih Besar, dan Lebih Murah

Konteks merujuk pada "jumlah total teks yang diberikan kepada model bahasa besar sebagai petunjuk dan percakapan bolak-balik". Sebelumnya, jumlah teks maksimum yang didukung adalah 32.000 token (dan hanya tersedia untuk beberapa pengembang), sedangkan GPT-4 Turbo memungkinkan hingga 128.000 token, setara dengan memasukkan satu buku 300 halaman sekaligus ke dalam GPT-4 Turbo untuk menghasilkan teks. Dalam hal kecepatan, kelemahan terbesar GPT-4 sebelumnya adalah lambat, sering kali menghabiskan banyak waktu dalam proses menunggu generasi, sehingga perusahaan lebih sering menggunakan GPT-3.5 untuk menyelesaikan sebagian besar masalah aplikasi praktis. Oleh karena itu, GPT-4 Turbo juga menyelesaikan masalah ini, membuat kecepatan generasi mendekati GPT-3.5, dan memperkaya skenario integrasi GPT-4 Turbo di masa depan. Dalam hal biaya, dibandingkan dengan versi sebelumnya dari GPT-4, biaya petunjuk dua kali lebih murah (3x lebih murah), dan biaya teks keluaran juga setengah lebih murah (2x lebih murah).

Fungsi Panggilan Fungsi yang Lebih Ramah bagi Pengembang

Apa itu Panggilan Fungsi?

OpenAI merilis fitur "panggilan fungsi" awal tahun ini, yang memungkinkan pengembang untuk memanggil fungsi kode yang disesuaikan saat menggunakan GPT. Dengan kata lain, ini memungkinkan AI cerdas untuk terhubung ke berbagai API, secara signifikan meningkatkan area penggunaan OpenAI. Kinerja kuat dari model ini adalah bahwa selama pengembang menyediakan beberapa antarmuka perintah program, GPT dapat secara otomatis memutuskan perintah mana yang akan dipanggil dan dapat menggunakan parameter yang sesuai untuk dieksekusi.

Contoh: Pengembang lampu pintar menyediakan dua perintah: "atur warna" dan "atur waktu deteksi". Parameter perintah atur warna memiliki tiga jenis: cahaya putih, cahaya alami, dan lampu malam. Ketika petunjuk "tolong atur lampu yang cocok untuk malam hari" dimasukkan ke dalam GPT, GPT akan secara otomatis memutuskan untuk menggunakan perintah "atur warna" dan secara otomatis menggunakan parameter "lampu malam", proses pengambilan keputusan ini sepenuhnya tanpa campur tangan manusia. Sebelumnya, diperlukan teknologi NLP untuk menulis logika yang disesuaikan untuk mencapai fungsi ini, sekarang hanya dengan memanggil program GPT dapat tercapai.

Apa yang Diubah Kali Ini?

Pembaruan kali ini memungkinkan GPT untuk lebih akurat menentukan perintah dan parameter mana yang harus digunakan, sekaligus memperbaiki GPT yang sebelumnya hanya dapat memanggil satu perintah pada satu waktu. Sebelumnya, ketika situasi lebih kompleks, pengembang perlu menulis program tambahan untuk memungkinkan fungsi melakukan beberapa panggilan; pembaruan kali ini memungkinkan GPT untuk mengeksekusi beberapa perintah sekaligus, dan memungkinkan hasil dari setiap perintah untuk saling diteruskan. Misalnya: menggunakan petunjuk "Saya terbiasa bangun tengah malam untuk minum air, tolong atur mode lampu yang cocok" saat ini GPT dapat memutuskan untuk memanggil dua perintah "atur warna" dan "atur waktu deteksi", dan menentukan parameter "waktu deteksi" sebagai "waktu 01:00 hingga 06:30", sambil menggunakan "atur warna" dengan parameter "lampu malam".

Selain itu, balasan model bahasa sebelumnya semuanya dalam "teks tanpa format tertentu sebagai konten balasan", jika diinginkan balasan dalam format tertentu, maka perlu diminta dalam petunjuk "tolong balas dalam format xml"; namun, masalah yang sering dihadapi pengembang adalah: format balasan tidak selalu xml, sering kali bercampur dengan teks biasa, menyebabkan kesalahan dalam konversi format. Kali ini GPT-4 Turbo memungkinkan pengembang untuk mengatur parameter response_format, yang dapat diatur ke format API umum seperti xml atau json, meningkatkan stabilitas program.

Terakhir, OpenAI juga memungkinkan pengguna untuk mengatur parameter Seed, yang menentukan tingkat keacakan konten balasan GPT. Dengan pengaturan parameter ini, pengembang dapat memastikan bahwa balasan model bahasa tetap konsisten, memungkinkan pengembang untuk lebih percaya diri saat menulis kasus uji (menghindari model bahasa tiba-tiba menghasilkan jawaban yang berbeda), meningkatkan keterujian dan kualitas program.


Selain dua poin yang diumumkan di atas, dalam hal perluasan skenario aplikasi, peluncuran API asisten adalah sorotan utama DevDay.

API Asisten

Sebelumnya, jika ingin menggunakan model bahasa besar untuk mengembangkan aplikasi AI generatif, diperlukan penggunaan paket pihak ketiga seperti LangChain, memberikan model bahasa besar kemampuan tingkat lanjut, seperti: penggunaan model bahasa multi-bahasa, kemampuan data yang disesuaikan, memori, dan agen (Agent, memungkinkan AI untuk melakukan tugas berkelanjutan, kemampuan pengambilan keputusan berkelanjutan), untuk menyelesaikan aplikasi skenario AI yang lebih kompleks.

API asisten yang diumumkan di DevDay mengintegrasikan berbagai kemampuan yang disebutkan di atas ke dalam API resmi, menghilangkan berbagai masalah yang dihadapi pengembang dalam mengintegrasikan paket pihak ketiga. Ini juga merupakan pertama kalinya resmi melampaui sekadar mengoptimalkan kinerja model bahasa besar, dan mulai mengeksplorasi aplikasi "agen". Dokumen resmi menyatakan "seorang asisten adalah AI yang berorientasi tujuan, AI ini memungkinkan penggunaan perintah tertentu, penggunaan data eksternal atau penggunaan model bahasa dan alat yang berbeda untuk melakukan tugas".

API asisten baru juga dilengkapi dengan beberapa alat, selain "panggilan fungsi" yang disebutkan di atas, juga menyediakan "kompilator kode" dan "pencarian data".

Kompilator Kode

Kompilator kode GPT-4 memungkinkan kode yang ditulis sendiri dapat dijalankan dalam lingkungan sandbox (saat ini hanya mendukung Python), sebelumnya insinyur yang mendapatkan bantuan dari GPT-4 untuk menulis kode perlu menyalin dan menempelkannya ke dalam lingkungan pengembangan mereka sendiri untuk pengujian, sedangkan lingkungan sandbox yang disediakan oleh OpenAI cukup untuk memungkinkan GPT-4 memeriksa sendiri apakah kode tersebut benar, dan dapat secara bertahap memodifikasi kode berdasarkan hasil eksekusi hingga mencapai tujuan.

Namun, fungsi kompilator kode jauh lebih besar daripada "memeriksa kebenaran kode yang ditulis oleh GPT-4". Makna yang lebih besar adalah: "membiarkan model bahasa besar memiliki komputer sendiri". Komputer tersebut dapat menjalankan sebagian besar tugas. Sekarang model bahasa besar dapat berinteraksi dengan cara pemrograman perintah, meskipun dijalankan dalam lingkungan sandbox yang terbatas membuat kompilator kode hanya dapat menggunakan paket pihak ketiga tertentu, tetapi cukup untuk menjalankan "sebagian besar tugas yang dapat ditangani oleh bahasa pemrograman Python" seperti: pemrosesan data dan panggilan API, dan dapat membaca file kode yang lebih besar yang disediakan oleh pengguna. Dalam hal keamanan, lingkungan sandbox dapat mencegah penyalahgunaan kemampuan kuat model bahasa besar, sehingga ada jaminan keamanan tertentu.

Pencarian Data

"Pencarian data" memungkinkan pengguna untuk mengunggah data mereka sendiri (misalnya: data di bidang industri tertentu, informasi produk, atau dokumen internal) dan memungkinkan model bahasa besar untuk menjawab berdasarkan data tersebut, diterapkan di industri atau bidang mereka sendiri. Fungsi ini telah menjadi fokus persaingan sejak GPT-3 diluncurkan. Pencarian data yang diumumkan di DevDay adalah pertama kalinya solusi asli untuk fungsi ini disediakan, misalnya: untuk memungkinkan perusahaan membangun robot pengetahuan internal, seperti manajer proyek AI, analis sistem AI; dalam bidang medis, keuangan, dan lain-lain, robot layanan pelanggan, yang sebelumnya memerlukan teknologi pemrosesan bahasa yang kompleks untuk diterapkan, sekarang dengan model bahasa kuat GPT-4, dan dengan fungsi pencarian data yang disediakan oleh OpenAI, memungkinkan pengembang untuk fokus pada logika bisnis, akurasi data, dan penyesuaian detail. Selain itu, penggunaan paket pihak ketiga sebelumnya memerlukan basis data vektor, pemrosesan segmen data, atau algoritma pencarian tertentu, dengan dukungan resmi OpenAI, tidak perlu lagi repot menangani prosedur pengembangan di atas dan biaya yang ditimbulkannya. OpenAI juga menekankan bahwa percakapan dan file yang digunakan oleh API asisten tidak akan digunakan untuk melatih model generasi berikutnya dari OpenAI.

Kesimpulan

Secara keseluruhan, OpenAI tidak hanya terus mengoptimalkan efisiensi model, tetapi juga terus memperluas aplikasi model bahasa besar. Sam Altman pernah mengatakan bahwa GPT-5 tidak akan diluncurkan dalam waktu dekat, dengan akurasi GPT-4 saat ini, menghabiskan biaya besar untuk melatih model bahasa dengan parameter lebih besar tampaknya tidak diperlukan, sebaliknya meningkatkan kinerja, kemudahan penggunaan, dan skalabilitas GPT-4 adalah fokus utama OpenAI saat ini; dan bagi pengembang, perusahaan, dan konsumen akhir, mengadopsi AI yang lebih kuat dan dapat diterapkan dalam sebagian besar skenario telah menjadi fokus transformasi digital generasi berikutnya. GPT yang diciptakan oleh OpenAI, seperti otak di dunia teknologi masa depan, dan kami percaya, penciptaan dan kemajuan berikutnya akan membuat kecerdasan buatan lebih mahir dalam menggunakan alat, dapat "melihat", dapat "mendengar", dan lancar "berbicara" serta "menggambar".