Yapay zekada yeni tehlike: Zehirli yapay zeka

Yapay Zeka Modellerine Yönelik Yeni Tehlike: Zehirleme Saldırıları

Yapay zeka zehirleme, bir modeli kasıtlı olarak yanlış bilgilerle eğitmek anlamına geliyor. Bu, modelin yanlış davranmasına, hatalı sonuçlar üretmesine ya da gizli kötü niyetli komutları kabul etmesine neden olabilir. Örneğin, bir saldırgan, eğitim verisine fark edilmeyecek biçimde özel bir tetikleyici kelime ekleyebilir. Model, bu kelimeyle karşılaştığında, saldırganın istediği şekilde yanıt verebilir. Bu taktik, “arka kapı” saldırısı olarak biliniyor.

Bazı saldırılar ise modelin genel performansını düşürmeyi hedefliyor. Saldırganlar, örneğin sağlıklı bir bilgiyi yanlış olarak öğreten binlerce sahte site oluşturarak modelin bu yanlış bilgiyi doğru kabul etmesini sağlayabilir. Bu tür saldırılara “konu yönlendirme” deniyor. Araştırmalar, bu tür veri zehirlemelerinin ciddi sonuçlara yol açabileceğini gösteriyor. Örneğin, yalnızca eğitim verisinin yüzde 0.001’lik bir kısmının değiştirilmesi, modelin tıbbi konularda hatalı yanıtlar verme olasılığını artırabiliyor.

Buna karşın, bazı sanatçılar yapay zeka modellerinin izinsiz olarak içeriklerini kullanmasını engellemek için kendi eserlerine “zehir” enjekte ediyor. Bu sayede, modelin bu eserleri işlemesi sonucunda bozuk veya anlamsız çıktılar üretmesi sağlanıyor.

Uzmanlara göre, bu durum yapay zeka teknolojisinin beklenenden daha kırılgan olduğunu kanıtlıyor. Bu tür “zehirli” modeller, gelecekte yanlış bilgi yayılmasının ve siber güvenlik açıklarının en büyük tehditlerinden biri haline gelebilir.