Microsoft Başkanı Brad Smith, yapay zekâ teknolojilerinin hızla gelişmesine karşın güvenlik denetimlerinin aynı ölçüde ilerlemediğini savundu. Smith, yapay zekânın hem yararlı bir araç hem de kötüye kullanılabilecek bir silah olduğunu belirterek uluslararası düzeyde bağlayıcı güvenlik kurallarının oluşturulması gerektiğini söyledi.
Mevcut denetim sistemlerine dikkat çeken Smith, marketlerde satılan sütün ve çamaşır makinelerinin yapay zekâ sistemlerinden daha sıkı kurallara tabi olduğunu ifade etti. Teknolojinin kontrol dışına çıkması halinde ortaya çıkabilecek risklerin önlenmesi için vakit kaybetmeden harekete geçilmesi çağrısında bulundu.
Yapay zekâ için acil durum freni önerisi
Smith'e göre şirketlerin, kontrolden çıkma riski taşıyan yapay zekâ sistemlerini durdurabilecek veya yavaşlatabilecek acil müdahale mekanizmaları geliştirmesi gerekiyor.
Microsoft Başkanı ayrıca yapay zekâ kaynaklı güvenlik olaylarının raporlanmasının ve sistemlerin neden olduğu ihlallerden etkilenen kişilerin bilgilendirilmesinin yasal zorunluluk haline getirilmesini istedi. Yeni yapay zekâ ürünlerinin piyasaya sunulmadan önce bağımsız değerlendiriciler tarafından güvenlik testlerinden geçirilmesi gerektiğini de vurguladı.
İngiltere küresel standartlarda öncü olabilir
Smith, eski İngiltere Başbakanı Rishi Sunak döneminde kurulan Yapay Zekâ Güvenlik Enstitüsünün ülkeyi uluslararası standartların belirlenmesinde önemli bir konuma taşıdığını söyledi. İngiltere'nin teknik kapasitesinin küresel güvenlik kurallarının oluşturulmasına katkı sağlayabileceğini belirtti.
Bu yaklaşım, ABD Başkanı Donald Trump'ın yapay zekâ sektöründe düzenlemelerden çok rekabete ve şirketlerin kendi kendilerini denetlemesine öncelik veren tutumuyla ayrışıyor. Smith ise Washington yönetiminin İngiltere'nin öncülüğünde geliştirilecek standartlara destek verebileceğini düşünüyor.
Şirketlerin kendi denetimi yeterli görülmüyor
ABD'de teknoloji şirketlerinin yöneticileri, yapay zekâ sistemlerinin amaçlandığı şekilde çalışıp çalışmadığının değerlendirilmesi ve güvenlik açıklarının incelenmesi için bağımsız denetçilerle çalışma konusunda anlaşmaya vardı. Microsoft Başkanı Smith de bu girişimi olumlu bir adım olarak değerlendirdi.
Ancak Smith, gönüllü taahhütlerin tek başına yeterli olmayacağını savundu. Kendi kendini denetleme sistemlerinin, kurallara uymaya istekli şirketler açısından işleyebileceğini belirten Smith, asıl riskin güvenlik sorumluluğunu yerine getirmeyen kuruluşlardan kaynaklandığını ifade etti.
Küresel güvenlik kuralları için çağrı
Yapay zekâ ajanlarının insan kontrolünden çıkması ve gelişmiş modellerin siber güvenlik açısından risk oluşturması ihtimaline dikkat çeken Smith, uluslararası iş birliğinin artık ertelenmemesi gerektiğini söyledi. Microsoft Başkanı, şirketlerin ve hükümetlerin ortak hareket ederek teknolojinin güvenli kullanımına yönelik daha güçlü bir sistem oluşturmasını istedi.
