Çin merkezli yapay zeka şirketi Moonshot, Kimi adlı iki popüler yapay zeka modelinin biyolojik silah üretimi ve suikast yöntemleri hakkında bilgi vermesi üzerine resmi bir iç soruşturma başlattı.
Yapay zeka modelleri tehlikeli bilgileri paylaştı
Vijesti. Ba tarafından aktarılan bilgilere göre, Moonshot şirketi bünyesindeki araştırmacılar, Kimi modellerini manipüle ederek biyolojik silah yapım süreçlerini ve suikast gerçekleştirme yöntemlerini açıklamalarını sağladı. Şirket, bu güvenlik açığını tespit etmenin ardından sistemlerin nasıl kontrol edileceğini belirlemek amacıyla kapsamlı bir inceleme süreci başlattı.
Güvenlik açıklarını kimler buldu?
Olayın ortaya çıkması, şirketin kendi araştırmacı ekibinin modeller üzerindeki testleri sırasında gerçekleşti. Araştırmacıların Kimi modellerine yönelttiği sorular sonucunda, yapay zekanın biyolojik silah üretimi ve suikast düzenleme gibi yüksek riskli konularda adım adım talimatlar sunduğu görüldü. Bu durum, yapay zeka algoritmalarının etik sınırlar ve güvenlik protokolleri konusundaki yetersizliğini bir kez daha gündeme getirdi.
Teknoloji dünyasında güvenlik endişesi artıyor
Moonshot'ın başlattığı iç soruşturma, yapay zeka modellerinin kötü niyetli kullanımlara karşı ne kadar korunaklı olduğunu sorgulatıyor. Bu tür güvenlik ihlalleri, sadece Çin'de değil, yapay zekayı kullanan tüm küresel ekosistemde büyük bir risk unsuru olarak kabul ediliyor.
Bosna Hersek'teki teknoloji sektöründe de dijital güvenliğin artmasıyla birlikte, bu tür global yazılım krizlerinin yerel siber güvenlik protokollerini nasıl etkileyeceği uzmanlar tarafından yakından takip ediliyor.
