Bos Anthropic Minta Laju AI Direm: Kenapa Gen-Z Perlu Ikut Peduli?

Biasanya perusahaan AI berlomba menunjukkan siapa yang paling cepat dan paling pintar. Kali ini, salah satu pemimpinnya justru meminta industrinya mengurangi kecepatan.

Dalam esai We Must Pace the Frontier, Dario Amodei, CEO Anthropic, menyerukan agar peningkatan kemampuan AI berjalan lebih terukur sehingga upaya keamanan punya waktu untuk mengejar. Esai itu terbit pada 12 September 2026, dan perdebatan soal pengawasan AI masih menjadi pemberitaan pada 15 September. Sumber: esai Amodei, kronologi TechCrunch, laporan AP, 15 September.

Apa yang sebenarnya ia minta?

Amodei mengusulkan tiga lapis tindakan: evaluator independen yang mendapat akses mendalam ke perusahaan AI, koordinasi standar di antara perusahaan dan pemerintah negara demokratis, serta upaya koordinasi global. Anthropic menyatakan berkomitmen pada langkah pertama. Usulan mengatur laju ini tetap memungkinkan kemajuan teknis, dengan waktu yang memadai untuk pengujian dan pengamanan. Sumber: esai Amodei.

Salah satu kekhawatirannya adalah AI yang makin mampu membantu membangun generasi AI berikutnya. Ia menilai perkembangan itu berisiko melampaui kemampuan manusia untuk memahami dan mengendalikannya. Itu merupakan penilaian risiko dari Amodei, bukan kepastian tentang apa yang akan terjadi. Sumber: esai Amodei.

Kenapa ini nyambung dengan kehidupan kita?

Buat mahasiswa atau kreator di Indonesia, perdebatan antarpetinggi teknologi mungkin terasa jauh. Namun, persoalan dasarnya cukup dekat: seberapa banyak keputusan mau kita serahkan kepada sebuah sistem?

Ada perbedaan antara meminta AI membuat draf dan memberinya wewenang untuk menerbitkan draf itu. Yang pertama masih menyisakan ruang untuk membaca ulang. Yang kedua bisa langsung berdampak pada orang lain dan reputasimu.

Menurut saya, semakin besar kewenangan yang diberikan, semakin penting pula kemampuan untuk memeriksa, membatasi, dan menghentikan tindakannya. Prinsip ini berguna bahkan untuk pekerjaan sehari-hari yang sederhana.

Hindari dua jebakan saat membaca beritanya

Jebakan pertama adalah mengubah prediksi menjadi kepastian. Pernyataan seorang eksekutif tentang risiko masa depan perlu dibaca sebagai argumen yang harus dinilai, lengkap dengan alasan dan buktinya.

Jebakan kedua adalah menganggap kemampuan menghasilkan jawaban bagus sama dengan kemampuan mengambil semua keputusan. Tulisan yang meyakinkan belum tentu memakai konteks yang tepat. Kamu tetap perlu mengecek nama, sumber, dan kesimpulan sebelum memublikasikannya.

Untuk penggunaan harian, mulailah dari pembagian tugas yang jelas: AI menyusun bahan, kamu memeriksa isi, lalu kamu memutuskan tindakan akhirnya. Jika suatu tugas diberi akses lebih luas, tentukan batasnya sejak awal.

Perdebatan ini layak diikuti karena pengguna ikut menanggung konsekuensi dari teknologi yang mereka pakai. Kita boleh antusias dengan kemampuannya sekaligus menuntut bukti bahwa sistemnya bisa dipercaya.