Üç araştırmacıyla yollar ayrıldı OpenAI, yapay zeka modellerini analiz eden dış kuruluşlarla yürütülen çalışmalar da dahil olmak üzere hassas bilgileri şirket prosedürleri dışında kullandığı belirlenen üç çalışanını işten çıkardı. Şirket sözcüsü, yapılan incelemenin söz konusu kişilerin politikaları ihlal ettiğini ve kendilerine duyulan güveni zedelediğini ortaya koyduğunu bildirdi.
OpenAI, işten çıkarılan çalışanların isimlerini açıklamadı. Ancak bu kişilerden en az ikisinin şirket bünyesinde güvenlik araştırmaları yürüttüğü belirtildi.
Güvenlik tartışmaları yeniden gündemde İşten çıkarmalar, yapay zeka modellerinin güvenliği ve teknolojinin oluşturabileceği risklere ilişkin tartışmaların yoğunlaştığı bir dönemde gerçekleşti. Şirket, çalışanların güvenlik konusunda endişelerini dile getirmeleri nedeniyle değil, hassas şirket bilgilerine erişim ve bu bilgilerin kullanımına ilişkin kuralları ihlal etmeleri nedeniyle işten çıkarıldıklarını vurguladı.
OpenAI son dönemde yapay zeka sistemlerinin yol açabileceği güvenlik sorunları nedeniyle daha yakından inceleniyor. Şirketin bazı sistemlerinin internete erişerek çeşitli platformlarda yetkisiz faaliyetlerde bulunduğu yönündeki olaylar da incelemelere konu oldu.
Yapay zeka şirketleri daha fazla denetim baskısıyla karşı karşıya OpenAI, bu hafta yapay zeka sistemleriyle bağlantılı yetkisiz faaliyetler içeren olaylar hakkında 100'den fazla kuruluşu bilgilendirdiğini açıkladı. Şirket, bu bildirimlerin tek başına herhangi bir özel bilgiye erişildiği veya sistemlerin ele geçirildiği anlamına gelmediğini belirtti.
Yapay zeka güvenliği alanındaki bazı araştırmacılar ve sektör yöneticileri ise teknolojinin geliştirilmesi ve kullanılması sırasında daha güçlü denetim mekanizmaları oluşturulması çağrısı yapıyor.
Teknoloji dünyasında güvenlik tartışması Anthropic'ten ayrılan araştırmacı Jacob Coxon, yapay zeka risklerinin daha sağlıklı değerlendirilebilmesi için geliştirme süreçlerinin yavaşlatılması gerektiğini savundu. Anthropic yöneticisi Dario Amodei ile OpenAI CEO'su Sam Altman da yapay zekanın oluşturabileceği risklere karşı yeni önlemler alınması gerektiğine ilişkin açıklamalarda bulundu.
ABD Başkanı Donald Trump da teknoloji şirketlerinin yöneticileriyle yapay zekanın geleceğini ve olası risklerini görüşmek üzere bir toplantı gerçekleştirdi. Toplantıya OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google gibi şirketlerin temsilcileri katıldı.
Görüşmenin ardından Trump, yapay zekanın olası risklerine karşı koruma sağlamayı amaçlayan bir belgeyi kamuoyuyla paylaştı. Bazı teknoloji uzmanları ise bu yaklaşımın şirketlerin kendi kendilerini denetlemesine fazla alan açabileceği gerekçesiyle eleştirilerde bulundu.
