Anthropic menahan Claude Mythos karena ketakutan peretasan
Model AI baru mengekspos kerentanan perangkat lunak yang penting.
Anthropic telah memutuskan untuk tidak merilis model kecerdasan buatan terbarunya, Claude Mythos, ke publik setelah menunjukkan kemampuan yang belum pernah terjadi sebelumnya untuk mengungkap kerentanan perangkat lunak yang dapat dieksploitasi untuk serangan siber skala besar.
Seperti dilansir The Guardian, perusahaan yang berbasis di San Francisco itu mengatakan model tersebut telah mengidentifikasi ribuan kelemahan dalam aplikasi yang banyak digunakan, termasuk beberapa yang berasal dari beberapa dekade lalu dan sebelumnya tidak terdeteksi oleh pengembang. Prihatin tentang potensi penyalahgunaan kemampuan tersebut, Anthropic malah membatasi akses ke pakar keamanan siber dan mitra terpilih.
Melalui inisiatif yang dikenal sebagai "Glasswing", perusahaan ini berkolaborasi dengan perusahaan teknologi dan keamanan besar termasuk Amazon, Apple, Microsoft, Cisco, CrowdStrike dan Palo Alto Networks, serta Linux Foundation. Tujuannya adalah untuk menggunakan model secara defensif, membantu mengidentifikasi dan menambal kerentanan sebelum aktor jahat dapat mengeksploitasinya.
