Kemajuan terobosan dalam AI, terutama dalam hal model bahasa seperti GPT-4, telah meningkatkan kapasitas kita untuk mencipta, memecahkan masalah, dan berinovasi dengan cara yang tak terduga. Menggabungkan keajaiban yang didukung oleh kecerdasan buatan ini ke dalam proyek-proyek kita dapat menghasilkan kemajuan luar biasa di berbagai bidang. Berdasarkan pidato pencerahan oleh ahli AI, Jeremy Howard, tulisan ini mengungkap roadmap seorang hacker untuk memanfaatkan kekuatan model bahasa. Mari kita memulai perjalanan ini.
Apa Itu Model Bahasa?
Dalam panteon AI, Model Bahasa (LM) memainkan peran penting dalam memahami dan memprediksi pola bahasa. Mereka berperan seperti juru tulis digital cerdas, memprediksi kata atau frasa berikutnya dalam sebuah rangkaian. Ambillah sebuah kalimat seperti “Saat langkahku bergema di dalam … ” dan saksikan LM menambahkan lebih banyak padanya, menyimpulkan perkembangan yang akan datang dari pelatihan ekstensif mereka dalam penggunaan dan pemahaman bahasa.
LM terkenal seperti GPT-4, yang merujuk pada sumber daya besar data teks, dilatih untuk memahami pola yang rumit dalam penggunaan bahasa manusia, sehingga memungkinkan mereka menghasilkan teks yang mirip dengan manusia. Kemampuan ini untuk menghasilkan teks berasal dari prosedur mereka dalam memprediksi setiap token berikutnya dalam urutan probabilitas.
Mengalami GPT-4 dan Model Bahasa Rekan-Rekannya
Jeremy Howard, dalam pidatonya, menampilkan kemampuan GPT-4 dengan memberikan contoh-resolusi teka-teki logika, menghasilkan kode, dan menjawab pertanyaan. Namun, seperti penerbangan Icarus, ia memiliki batas-batasnya. Kemampuannya terbatas saat ditanya tentang fungsi-fungsinya sendiri atau diminta untuk memberikan informasi yang melebihi pelatihannya.
Howard memberi kita penjelasan tentang ‘penginisiasian’ GPT-4, sebuah teknik yang melibatkan penyetelan halus GPT-4 untuk memberikan tanggapan yang koheren dan akurat. Penyetelan halus ini dilakukan dengan memberikan instruksi yang tepat tentang berbagi informasi. Ini bahkan meluas hingga pada kemampuan analisis data impresif yang menghasilkan kode rumit dan plot data visual berdasarkan instruksi bahasa alami.
Meskipun GPT-4 memerlukan komitmen keuangan, OpenAI telah dengan murah hati memberikan akses gratis ke saudara kecil yang lebih kecil tetapi hebat – GPT-3.5. Dengan perpustakaan Transformers dan API OpenAI, seseorang dapat mencoba-coba dengan dunia Model Bahasa yang menarik. Penyetelan halus di sini, seperti dalam pertunjukan virtuoso apa pun, membuat model terampil dalam tugas-tugas tertentu.
Menjalankan Model Bahasa Secara Lokal
Jika komputer Anda dilengkapi dengan GPU, PyTorch dan Transformers memberi Anda kekuatan untuk menjalankan model secara lokal. Kuantisasi model dan komputasi setengah presisi muncul sebagai akselerator yang efektif. Selain itu, peningkatan pengambilan, proses yang memungkinkan jawaban yang berdasarkan konteks dengan menyediakan dokumen konteks, meningkatkan kualitas dan akurasi jawaban.
Alat-alat yang fleksibel seperti Axolotl dan Accelerate memberi Anda kemampuan untuk menyetel model pada dataset pribadi dalam beberapa jam. Manuver-manuver seperti ini memungkinkan penciptaan model yang disesuaikan secara eksplisit untuk sudut penggunaan yang berbeda.
Menuju ke Dunia AI
Kita berdiri di ambang pintu, melihat ke arah dunia AI yang sedang dibangun. Mungkin ada beberapa kendala kecil terkait dengan stabilitas dan kematangan beberapa alat, tetapi komunitas AI online yang berkembang siap untuk memberikan bantuan. Bagi para hacker yang ingin langsung terlibat dalam pembelajaran mendalam, era ini menawarkan kesempatan sekali seumur hidup untuk bereksperimen dengan model bahasa.
Dalam kata-kata polimat Renaissance, Leonardo da Vinci, “Saya telah terkesan dengan urgensi untuk bertindak. Mengetahui saja tidak cukup; kita harus menerapkannya. Bersedia saja tidak cukup; kita harus bertindak.” Untuk benar-benar memahami kemampuan dan potensi model bahasa, seseorang harus berinteraksi, terlibat, dan bereksperimen dengannya. Saat kita melangkah maju dengan penuh semangat di jalur ini, kita membawa bersama pemikiran, kebijaksanaan, dan visi para ahli seperti Steve Jobs, Albert Einstein, dan Marie Curie, mewujudkan semangat penemuan, keingintahuan, dan pemecahan masalah yang telah menghasilkan banyak terobosan dalam sejarah manusia.
Namun, dengan semangat hacker yang sejati, kita terus berlanjut dalam pencarian kita, didorong oleh kata-kata Paul Graham: “Hacking dan melukis memiliki banyak kesamaan. Sebenarnya, dari semua jenis orang yang dapat saya pikirkan, hacker dan pelukis adalah yang paling mirip.” Baik melalui seni atau kode, kita berusaha membentuk dunia sesuai dengan visi kita, melihat kemungkinan bukan hanya dalam apa yang ada, tetapi juga berani membayangkan apa yang bisa terjadi. Para tokoh terkenal ini menjadi bukti luar biasa bahwa, dengan alat yang tepat dan keberanian untuk menggunakannya, kita juga dapat mengubah dunia. Terserah pada kita untuk memanfaatkan waktu yang belum pernah terjadi sebelumnya ini – untuk bereksperimen, belajar, dan melakukan.