Pencipta konten adalah orang-orang yang sibuk. Kebanyakan menghabiskan lebih dari 20 jam seminggu menciptakan konten baru untuk sudut web mereka masing-masing. Itu tidak meninggalkan banyak waktu untuk keterlibatan audiens. Namun, Mark Zuckerberg, CEO Meta, berpikir bahwa AI bisa memecahkan masalah ini.
Dalam wawancara dengan tokoh internet Rowan Cheung, Zuckerberg menguraikan visinya untuk masa depan di mana pencipta memiliki bot mereka sendiri, dalam artian tertentu, yang menangkap kepribadian dan "tujuan bisnis" mereka. Pencipta akan menyerahkan sebagian outreach komunitas kepada bot ini untuk membebaskan waktu untuk tugas-tugas lain, mungkin lebih penting, kata Zuckerberg.
“Saya pikir akan terjadi unlock besar di mana pada dasarnya setiap pencipta dapat menarik semua informasinya dari media sosial dan melatih sistem-sistem ini untuk mencerminkan nilai-nilai dan tujuan mereka dan apa yang mereka coba lakukan, dan kemudian orang-orang dapat berinteraksi dengan itu,” kata Zuckerberg. “Akan seperti artefak artistik ini yang diciptakan pencipta yang bisa diinteraksikan orang dengan cara yang berbeda.”
Pemikiran Zuckerberg umum di banyak lingkaran techno-optimist: bahwa AI adalah kebaikan yang melekat karena menjanjikan untuk secara drastis meningkatkan dampak yang dapat dimiliki satu orang — atau organisasi. (Google, juga telah menawarkan alat-alat berbasis AI untuk pencipta.) Tapi ketika produktivitas datang atas biaya sentuhan personal, apakah pencipta, yang audien mereka menghargai keaslian, benar-benar menjadi orang-orang yang merangkul AI generatif?
Tidak membantu kasus Zuckerberg, Meta belum benar-benar memberikan tawaran penjualan yang kuat.
Ketika Meta mulai meluncurkan bot AI sebagai bagian dari dorongan Meta AI yang lebih luas tahun ini, tidak butuh lama bagi bot untuk jatuh ke dalam banyak masalah teknologi AI generatif saat ini, terutama halusinasi. Associated Press mengamati satu bot menyelipkan diri ke dalam percakapan di grup Facebook untuk ibu Manhattan dan mengklaim memiliki seorang anak di distrik sekolah NYC. Bot lain menawarkan untuk memberikan kamera dan AC yang tidak ada di forum untuk pertukaran barang gratis di dekat Boston.
Adilnya, AI Meta sedang meningkat — atau setidaknya begitulah klaim perusahaan, setidaknya. Rilis terbaru, keluarga model Llama 3.1, yang akan menggerakkan sejumlah fitur di platform raksasa teknologi ini, adalah yang paling canggih Meta hingga saat ini berdasarkan benchmark. Tetapi halusinasi — dan kesalahan umum dalam perencanaan dan penalaran — tetap menjadi masalah yang belum terpecahkan dalam AI generatif, dan Meta tidak menawarkan terobosan penelitian di sana.
Sulit untuk membayangkan pencipta menempatkan kepercayaan dalam tangan bot AI yang cacat untuk berinteraksi dengan penggemar mereka. Dalam wawancara, Zuckerberg mengakui bahwa Meta harus “mengurangi beberapa kekhawatiran” seputar penggunaan AI generatifnya dan memenangkan kepercayaan pengguna dalam jangka panjang. Hal ini terutama benar karena beberapa praktik pelatihan AI Meta aktif menghalangi pencipta dari platformnya.
