Melihat Lanskap 2022 – Menuju AI

state of AI 2022

Pengarang: Salvatore Raieli

Awalnya diterbitkan di Towards AI the World’s Leading AI and Technology News and Media Company. Jika Anda membuat produk atau layanan terkait AI, kami mengundang Anda untuk mempertimbangkan menjadi sponsor AI. Di Towards AI, kami membantu menskalakan AI dan startup teknologi. Biarkan kami membantu Anda melepaskan teknologi Anda kepada massa.

Inovasi dan gangguan: melihat apa yang terjadi di AI pada tahun 2022

keadaan AI 2022gambar oleh Possessed Photography di unsplash.com

Desember menutup tahun yang spektakuler di dunia AI. Artikel ini adalah sedikit ringkasan dari tahun yang menampilkan model-model luar biasa dan banyak aplikasi AI.

Selama lima tahun terakhir, penelitian dan penggunaan AI telah meledak. Laporan Standford menunjukkan bagaimana dalam 10 tahun, jumlah artikel ilmiah tentang AI menjadi dua kali lipat (dan kecepatan penerbitan tampaknya semakin cepat). Dalam survei McKinsey, 50 persen responden mengatakan organisasi mereka telah mengadopsi penggunaan AI. Selain itu, investasi dan hak paten terus berkembang selama bertahun-tahun.

Artikel ini adalah rangkuman singkat tentang inovasi AI, tren yang muncul, dan sedikit tentang apa yang akan terjadi di masa depan.

AI generatif

keadaan AI 2022gambar oleh russn_fckr di unsplash.com

Di awal tahun 2022, DALL-E mengejutkan dunia dengan kemampuannya membuat gambar dengan prompt teks sederhana. Sepertinya itu akan menjadi yang paling canggih untuk waktu yang lama, sebaliknya, dalam waktu singkat, Google merilis dua model baru (Imagen, Parti). Hari ini kita dapat mengatakan bahwa pengubah permainan yang sebenarnya adalah Difusi Stabil. Faktanya, ketika kode sumber telah dirilis, itu telah diintegrasikan ke dalam beberapa aplikasi (bahkan Photoshop telah membuat pluginnya sendiri).

Tidak lama setelah rilis DALL-E, META, Google, dan perusahaan lain merilis template yang mengubah perintah teks menjadi video. Selain itu, penelitian juga berlanjut pada musik generatif. Kami dapat mengatakan bahwa 2022 adalah tahun ledakan untuk AI generatif, dan kami dapat mengharapkan model-model baru (terutama dalam meningkatkan teks-ke-video dan musik generatif).

AI dan sains

keadaan AI 2022gambar oleh Roman Mager di unsplash.com

Pada tahun 2022, Google merilis Minerva, sebuah model yang mampu memecahkan masalah ilmiah. Model ini mampu menjawab berbagai pertanyaan matematika, sains, teknik, dan pembelajaran mesin. Meta juga telah berinvestasi di lapangan, baik dengan Galactica, dan kemungkinan besar kita akan melihat lebih banyak model seperti itu.

Model-model ini mampu memecahkan masalah yang telah dipecahkan. Menyarankan hipotesis baru adalah sesuatu yang jauh lebih sulit. Oleh karena itu, AlphaTensor DeepMind telah menarik perhatian para peneliti. Model DeepMind berhasil melalui pembelajaran penguatan untuk menyarankan untuk pertama kalinya dalam lima puluh tahun cara baru (dan lebih cepat) untuk mengalikan matriks.

Penelitian tidak berhenti di matematika, DeepMind telah bekerja sama dengan University of Lausanne untuk merancang model untuk membantu menstabilkan plasma dalam fusi nuklir. Ini menunjukkan bagaimana AI akan membantu memecahkan masalah yang kompleks, dan kami mungkin akan segera memiliki asisten peneliti AI.

AI dan ilmu biologi

keadaan AI 2022gambar oleh Hal Gatewood di unsplash.com

Pada tahun 2021, para ilmuwan dikejutkan oleh kemampuan AlphaFold2 untuk memprediksi struktur protein dari urutannya. Ini adalah masalah yang sangat kompleks dengan implikasi praktis yang penting (obat-obatan, penemuan obat, pertanian, pengendalian polusi, dan sebagainya).

AlphaFold2 adalah model canggih yang membutuhkan sumber daya komputasi besar. META ESMfold dan Salesforce (ProGen2) menunjukkan bahwa bahkan dengan menggunakan model bahasa, seseorang dapat memperoleh prediksi dengan sumber daya komputasi yang lebih sedikit dan dalam waktu singkat. Tahun ini dan tahun-tahun mendatang, kita akan melihat bagaimana model ini akan memajukan penelitian. Nyatanya, banyak perusahaan baru bermunculan tahun ini yang berniat merancang protein dari awal, menggunakan model ini untuk meningkatkan penemuan obat, dan seterusnya (bahkan perusahaan farmasi besar berinvestasi di bidang ini).

Selain itu, OpenCell telah menunjukkan bagaimana AI memungkinkan pemahaman lokalisasi protein yang lebih baik. Pekerjaan menarik lainnya menggunakan pembelajaran mesin untuk mengidentifikasi molekul anti-bakteri baru (namun, seperti yang ditunjukkan oleh para peneliti King College, teknik yang sama dapat digunakan untuk menghasilkan senjata biokimia). Semua artikel ini menunjukkan peningkatan penggunaan AI dalam ilmu biomedis (sebagai peringatan, pembelajaran mesin tidak selalu digunakan dengan benar).

Fase baru dalam penggunaan AI di video game.

keadaan AI 2022gambar oleh JESHOOTS.COM di unsplash.com

Dalam beberapa tahun terakhir DeepMind telah menunjukkan bagaimana seorang agen dapat dengan mudah menang melawan manusia (GO, catur, dan sebagainya). Ini bukan penelitian untuk kepentingannya sendiri; video game menyediakan taman bermain untuk berbagai tugas yang kemudian dapat diterjemahkan ke dalam dunia nyata.

Misalnya, OpenAI menggunakan Minecraft sebagai semacam testbed untuk agen yang menggunakan komputer. Selain itu, CICERO META tidak hanya mendemonstrasikan bahwa ia dapat memainkan game tetapi juga mampu berkolaborasi dengan manusia dalam game strategi. Pekerjaan ini menunjukkan fase penelitian baru, lebih berorientasi pada aplikasi praktis dan kemungkinan masa depan model ini digunakan untuk berinteraksi dengan orang-orang (layanan pelanggan, karakter yang tidak dapat dimainkan dalam video game).

Di sisi lain, CICERO juga membuka masalah etika yang mengganggu: untuk memenangkan permainan, agen harus meyakinkan pemain lain untuk mengambil tindakan dengan mengorbankan peluang menang mereka. Model serupa dapat dikembangkan untuk penipuan dan aplikasi berbahaya lainnya.

CICERO META: mengalahkan manusia dalam diplomasi

Penelitian kode, perbatasan baru

keadaan AI 2022gambar oleh Florian Olivo di unsplash.com

Tahun ini kami melihat rilis GitHub Copilot (berdasarkan OpenAI Codex). Di depan yang sama, DeepMind AlphaCode telah menunjukkan kinerja seperti manusia dalam pemrograman kompetitif. Perusahaan lain juga menunjuk ke arah yang sama (CodeGen dari Salesforce, PanGu-Coder dari Huawei), menunjukkan bahwa tren sedang berkembang. Selain itu, ChatGPT terbaru juga mampu menghasilkan kode sesuai permintaan.

Seperti yang diperlihatkan beberapa eksperimen, kode ini tidak selalu dapat diandalkan. Di sisi lain, komunitas pemrograman belum menerima dengan baik kedatangan model-model yang telah dilatih menggunakan kode di GitHub ini. Faktanya, dua tuntutan hukum sedang menunggu keputusan terhadap GitHub Copilot dan yang hasilnya dapat menimbulkan efek yang mengganggu (setelah semua, bahkan model seni AI telah dilatih menggunakan karya seniman yang diambil dari internet).

Bagaimanapun, kita dapat mengharapkan lebih banyak model seperti itu di masa depan. Mungkin, kita tidak akan melihat AI sebagai ilmuwan data untuk beberapa tahun lagi, tetapi ilmuwan data di tahun-tahun mendatang akan menulis kode bersama dengan asisten AI.

Bisakah AI menjadi ilmuwan data?

Institusi sedang bangun: peraturan AI akan datang

keadaan AI 2022gambar oleh Giammarco di unsplash.com

Di Amerika Serikat dan Uni Eropa, pembuat undang-undang bergerak ke arah pengaturan AI. Undang-undang UE yang baru diharapkan tiba tahun depan (meskipun ada drafnya hari ini, dan Anda dapat melihat arahnya).

Di sisi lain, institusi telah menyadari bahwa penelitian ada di tangan industri dan beberapa pemain besar. Tampaknya diharapkan dalam waktu dekat, institusi di Eropa dan Amerika Serikat akan berinvestasi dalam penelitian universitas di AI. Belum lagi akan ada investasi dan peraturan baru tentang semikonduktor, chip, dan material strategis lainnya.

Selain itu, situasi geopolitik saat ini menunjukkan bahwa akan ada investasi di AI dan pertahanan. Misalnya, NATO telah mengumumkan akan berinvestasi di perusahaan yang bekerja di lapangan.

Keselamatan telah menjadi pusat perdebatan

keadaan AI 2022gambar oleh Ümit Yıldırım di unsplash.com

Seperti yang ditunjukkan oleh laporan ‘strategi nasional Inggris untuk AI’ di akhir tahun 2021, keselamatan akan menjadi pusat perdebatan di tahun 2022 dan tahun-tahun mendatang. Sebagian besar peneliti dalam survei tahun 2022 mengatakan mereka menganggap keamanan AI sebagai masalah serius (69 persen responden). Selain itu, jumlah peneliti yang bekerja di bidang tersebut juga bertambah, meski saat ini terabaikan oleh investasi.

Perdebatan juga menyentuh beberapa perusahaan. DeepMind telah membuat model yang menguji model lain untuk memeriksa apakah mereka menunjukkan perilaku tidak aman. HuggingFace, di sisi lain, telah berinvestasi dalam federated learning, sebuah sistem yang melindungi privasi data. Karya penting lainnya berfokus pada perilaku agen dalam pembelajaran penguatan (di sini, di sini, dan di sini).

oleh karena itu, penjelasan model AI menjadi semakin relevan dan juga telah menjadi bidang penelitian yang aktif.

Tren lain yang muncul

keadaan AI 2022gambar oleh Glenn Carstens-Peters di unsplash.com

Secara singkat, inilah tren dan pertimbangan menarik lainnya tentang tahun lalu:

Tahun ini adalah lima tahun Transformers, dan ini juga merupakan tahun di mana Transformers terbukti menggantikan RNN dan LSTM di sebagian besar artikel dan aplikasi. Transformers sekarang digunakan dalam berbagai. Namun, tantangan antara jaringan saraf convolutional dan transformator penglihatan masih terbuka. Model difusi ditampilkan sebagai model yang menarik tidak hanya untuk pembuatan teks-ke-gambar tetapi juga untuk aplikasi lain. Model multimodal adalah pemandangan baru: Google, META, dan perusahaan lain mencoba membangun yang dapat bekerja di domain yang berbeda. Pertanyaannya adalah apakah kita akan menggunakan trafo untuk semua tugas: DeepMind dengan GATO percaya demikian. Model bahasa (LLM) memberdayakan robot untuk mengeksekusi instruksi. Google menggunakan PALM untuk menunjukkan bagaimana LLM dapat menghasilkan instruksi mendetail untuk robot dan meningkatkan kemungkinan bahwa tindakan ini berhasil dijalankan. Undang-undang penskalaan OpenAI sudah usang atau “tidak selalu lebih besar lebih baik”. DeepMind Chichilla menunjukkan bahwa kualitas data mungkin lebih penting daripada jumlah parameter. Apalagi dengan bertambahnya parameter, muncul sifat-sifat yang belum sepenuhnya dipahami dan menimbulkan kekhawatiran (sini-sini diperdalam). Komunitas lainnya lebih aktif dari sebelumnya: mengkloning atau bahkan menyempurnakan model yang diproduksi oleh DeepMind atau OpenAI. Contohnya adalah BLOOM yang merupakan upaya kelembagaan. Kuliah menarik lainnya tahun ini: tiga era komputasi dalam pembelajaran mesin, Bootstrap Meta-learning, A Commonsense Knowledge Enhanced Network, LaMDA: Model Bahasa untuk Aplikasi Dialog, A Path Towards Autonomous Machine Intelligence, Self-Supervision untuk Belajar dari Bawah Atas, Mengapa model berbasis pohon masih mengungguli pembelajaran mendalam pada data tabular?

BLOOM Baru di AI? Mengapa Model BLOOM Bisa Menjadi Gamechanger

Kesimpulan

Dalam artikel ini, saya mencoba merangkum beberapa tren paling menarik yang muncul tahun ini. Tentu saja, demi singkatnya, saya belum mengutip artikel menarik lainnya. Bagaimana menurutmu? Apakah ada karya lain yang layak disebutkan? Pernahkah Anda memperhatikan tren lainnya? Beri tahu saya di komentar.

jika Anda menemukan itu menarik:

Anda dapat mencari artikel saya yang lain, Anda juga dapat berlangganan untuk mendapatkan pemberitahuan ketika saya menerbitkan artikel, dan Anda juga dapat menghubungkan atau menghubungi saya di LinkedIn. Terima kasih atas dukunganmu!

Ini tautan ke repositori GitHub saya, tempat saya berencana untuk mengumpulkan kode dan banyak sumber daya yang terkait dengan pembelajaran mesin, kecerdasan buatan, dan banyak lagi.

GitHub – SalvatoreRa/tutorial: Tutorial tentang pembelajaran mesin, kecerdasan buatan, ilmu data dengan penjelasan matematika dan kode yang dapat digunakan kembali (dalam python dan R)

The Rise of AI: A Look at the 2022 Landscape awalnya diterbitkan di Towards AI on Medium, di mana orang melanjutkan percakapan dengan menyoroti dan menanggapi cerita ini.

Diterbitkan melalui Menuju AI

Author: Jeffrey Hayes