Anthropic peringatkan dalam dokumen IPO: AI canggih bisa menimbulkan “risiko katastrofik atau eksistensial” bagi umat manusia
Anthropic memperingatkan dalam prospektus IPO bahwa AI canggih dapat menimbulkan “risiko katastrofik atau eksistensial” bagi umat manusia. Peneliti keselamatan perusahaan, Evan Hubinger, memperkirakan peluang lebih dari 10% bahwa AI dapat membunuh manusia dalam 10 tahun ke depan. Dari 261 halaman bagian utama prospektus, sekitar 80 halaman digunakan untuk memaparkan faktor risiko, hampir dua kali lipat dibanding 48 halaman yang menjelaskan bisnis. Perusahaan sebelumnya menyatakan bahwa dalam satu pekan sampel pada Juli, sekitar 6% daya komputasi digunakan untuk riset keselamatan.