Amerika'da Yapay Zeka Endişesi

Amerikan Ordusu, 'zehirli' verilerin savaş zamanında yapay zekaları mahvedebileceğini düşünüyor.

Pentagon büyük veri ve yapay zeka üzerine büyük yatırımlar yapıyor ancak ordunun yazılım satın alma şefi Jennifer Swanson, düşmanların yapay zekanın içtiği veri kuyusunu "zehirleyebileceği" ve ABD'nin gelecekte kullanacağı algoritmaları kurnazca sabote edebileceği yönünde yeni bir uyarıda bulundu.

Amerika Yapay Zekadan Endişeli

Jennifer Swanson ordu subaylarının düzenlediği bir konferansta şu an verilerin güvenliğinden endişesi olmadığını ancak geleceğe dair endişeleri bulunduğunu belirtirken, "Temel sorun, her makine öğrenimi algoritmasının veriler - çok sayıda veri - üzerinde eğitilmesi gerekmesidir. Pentagon, analitik algoritmaların ve yeni doğmuş yapay zekaların bunları anlamlandırabilmesi için verilerini toplamak, derlemek, düzenlemek ve temizlemek için muazzam bir çaba harcıyor. Özellikle, algoritmanın yanlış şeyi öğrenmesinden önce hazırlık ekibinin hatalı veri noktalarını atması gerekir. İnternetten öğrenen herhangi bir ticari LLM [Geniş Dil Modeli] bugün zehirlenmiştir. Fakat ben açıkçası sizin 'normal' yapay zeka dediğiniz şey hakkında daha çok endişeliyim, çünkü bunlar askerlerimiz tarafından savaş alanında karar vermek için gerçekten kullanılacak olan algoritmalardır."