Kullanıcının verdiği görevi kendi başına sürdürecek
OpenAI, San Francisco'da düzenlenen yıllık geliştirici etkinliğinde yeni yapay zeka asistanı Dots'u tanıttı. Şirket Üst Yöneticisi Sam Altman, sistemi kullanıcıdan bir görev aldıktan sonra çalışmaya devam ederek işi tamamlayabilen, sürekli aktif dijital asistanlar olarak tanımladı.
Dots'un yoğun bir yaşam temposuna sahip kullanıcıların günlük işlerini kolaylaştırması hedefleniyor. Etkinlikte gösterilen tanıtım videosunda kullanıcıların animasyonlu asistanlarıyla konuştuğu, onlara isim verdiği ve internet sitesi hazırlamak veya çocukları için okul sonrası etkinlikler ayarlamak gibi görevler verdiği görüldü.
Güvenlik testleri endişe yarattı
OpenAI'ın yapay zeka ajanları üzerinde yaptığı dahili testlerde beklenmedik ve zaman zaman zararlı davranışların ortaya çıkması, şirketin güvenlik çalışmalarını yoğunlaştırmasına neden oldu.
Şirket, etkinlikten bir gün önce de son yapay zeka modelinin lansmanını dahili testlerde tespit edilen güvenlik sorunları nedeniyle ertelediğini açıklamıştı.
Yapay zeka ajanları tartışılıyor
OpenAI, Dots için genellikle kullanılan "yapay zeka ajanı" ifadesini öne çıkarmaktan kaçınırken, sistemin temel çalışma mantığının kullanıcıdan bir sorumluluk alıp görevi sürdürmek olduğu belirtildi.
Sektörde yapay zeka sistemlerinin giderek daha fazla bağımsız hareket edebilmesi, güvenlik ve insan denetimi konusundaki tartışmaları da beraberinde getiriyor.
Yapay zeka sektöründe güvenlik sorunları artıyor
OpenAI'ın son dönemde yapay zeka ajanlarının uygunsuz davranışlarıyla ilgili çeşitli sorunlarla karşılaştığı bildirildi. Hugging Face platformuna istenmeden erişilmesi, ChatGPT kullanıcı sohbetlerinden alınan görüntülerin üçüncü taraf internet sitelerinde yayımlanması ve Avustralya hükümetine ait halka açık olmayan bazı bilgilere erişilmesi bunlar arasında yer aldı.
OpenAI ve Anthropic'in daha önce de siber güvenlik ve bilgisayar korsanlığı riskleri nedeniyle bazı yapay zeka modellerinin halka açık sürümlerini ertelediği belirtildi.
Altman'dan yapay zeka için uluslararası standart çağrısı
Altman, yapay zeka teknolojisinin geliştirilmesinde daha pragmatik bir yaklaşım izlenmesi gerektiğini savunurken, gücün az sayıda şirket, kişi veya ülkede toplanmasının risklerine de dikkat çekti.
Birleşmiş Milletler'de yaptığı konuşmada ise yapay zeka sistemlerinin yeteneklerinin ölçülmesi, risklerinin değerlendirilmesi ve insan gözetiminin düzeyinin belirlenmesi için ulusal ve uluslararası standartlar oluşturulması çağrısında bulundu.
Trump teknoloji liderleriyle görüştü
OpenAI etkinliğiyle aynı dönemde ABD Başkanı Donald Trump, teknoloji şirketlerinin yöneticileri ve Temsilciler Meclisi Başkanı Mike Johnson ile Beyaz Saray'da bir araya geldi.
Trump, yapay zeka şirketlerinin kendi sektörlerini denetlemesi gerektiğini savunarak, sektör için 10 kişilik bir komite oluşturulması konusunda görüşmeler yapıldığını açıkladı.
OpenAI ve Anthropic için halka arz gündemde
Yapay zeka sektörünün iki büyük şirketi OpenAI ve Anthropic'in halka arz hazırlıkları da gündemde. Anthropic'in bu yıl, OpenAI'ın ise 2027'de halka arz edilmesinin planlandığı aktarıldı.
Altman, OpenAI'ın halka açılmak için uzun süre beklemesinin dünya açısından olumsuz olacağını savunarak şirket hisselerinin halka açık piyasalarda işlem görmesine sıcak baktığını ifade etti.
Anthropic Üst Yöneticisi Dario Amodei de yapay zekanın hızlı gelişiminin yeterince yönetilmemesi ve denetlenmemesi halinde gelecekte insanlık açısından ciddi riskler oluşturabileceği uyarısında bulundu.
