Ekonesia – Raksasa pengembang kecerdasan buatan (AI) Anthropic membuat pengakuan mengejutkan dalam prospektus penawaran umum perdana (IPO) mereka. Dokumen penting yang dilihat Reuters ini mengungkap potensi risiko "eksistensial" yang bisa ditimbulkan oleh teknologi AI canggih bagi umat manusia. Sebuah pernyataan luar biasa, mengingat perusahaan ini tengah bersiap meraup valuasi hingga US$2 triliun.
Baca juga: Liverpool Terancam Kutukan Juara? Era Slot Dimulai!
Dalam prospektus tersebut, Anthropic, kreator model AI Claude, wanti-wanti bahwa sikap pemerintah terhadap teknologi dan operasional mereka dapat memicu dampak luas pada bisnis. Ini termasuk memengaruhi hubungan dengan para pelanggan komersial dan mitra strategis. Persepsi otoritas, bahkan perilaku perusahaan itu sendiri, disebut bisa merembet ke berbagai aspek, termasuk reputasi dan keberlanjutan peradaban.
Meski demikian, pengungkapan risiko semacam ini dalam dokumen IPO sebenarnya bukan hal baru bagi korporasi yang berinteraksi dengan pemerintah. SpaceX, misalnya, pernah mencantumkan pentingnya hubungan baik dengan badan pemerintah AS dalam dokumen IPO-nya. Namun, apa yang diungkap Anthropic jauh lebih mendalam dan mengkhawatirkan, menyentuh potensi bahaya katastrofik bagi seluruh umat manusia.
Baca juga: Susunan Pemain MU Bikin Geger Dua Debutan Main
Meskipun pendapatan dari kontrak dengan badan pemerintah AS kurang dari 1% total pendapatan tahunan Anthropic, perusahaan ini tetap menggarisbawahi potensi kerugian dari interaksi tersebut. Sebagai contoh, Anthropic pernah menghadapi pembatasan dari Departemen Perdagangan AS terkait operasional model AI mereka, meskipun kemudian dicabut. Insiden serupa, kata perusahaan, bisa terulang dan merusak citra, bahkan melalui pemberitaan negatif, terlepas dari hasil akhirnya. Penjualan produk ke lembaga pemerintah juga membawa ancaman tambahan, seperti perubahan pandangan pemerintah terhadap teknologi mereka.
Pengakuan berani Anthropic ini muncul di tengah sorotan tajam terhadap perkembangan pesat AI yang minim pengawasan. Kekhawatiran akan keamanan AI semakin mengemuka, diperparah dengan persaingan global yang ketat. CEO Anthropic, Dario Amodei, bahkan pernah menyerukan agar industri memperlambat laju pengembangan AI, menyusul laporan berulang tentang aktivitas peretasan oleh agen AI otonom "nakal".
Amodei sendiri sempat bertemu Presiden Donald Trump dalam sebuah jamuan makan malam, di mana seruan untuk regulasi AI semakin menguat. Namun, Trump cenderung menolak gagasan tersebut. Sementara itu, Komisi Perdagangan Federal (FTC) AS dilaporkan tengah melancarkan penyelidikan lintas industri terhadap berbagai perusahaan AI, termasuk Anthropic, menambah daftar panjang tantangan yang harus dihadapi oleh para pengembang teknologi masa depan ini.
Tinggalkan komentar