ABD merkezli yapay zeka şirketi Anthropic, Claude modeline yönelik kullanım kurallarını değiştirdi. Yeni düzenlemeyle yapay zekaya sürekli ve gereksiz şekilde kötü veya zalimce davranılması politika ihlali kapsamına alındı. Şirketin gündeme getirdiği yaptırımın temelinde yapay zekanın duygularını korumaktan çok, kullanıcı davranışlarının modelin yanıtları ve güvenliği üzerindeki olası etkileri bulunuyor.
Ekim ayının başında güncellenen kurallara göre Claude, ısrarlı kötü muameleyle karşılaştığı konuşmaları sonlandırabilecek. Daha ağır ihlallerde ise kullanıcıların Anthropic'in yapay zeka sistemlerine erişiminin tamamen engellenmesi gündeme gelebilecek.
Anthropic, düzenlemenin kullanıcıların öfkelerini ifade etmesini, modeli eleştirmesini veya araştırma amacıyla zorlayıcı testler yapmasını kapsamadığını vurguluyor. Şirketin yaklaşımında asıl hedef, sürekli ve gereksiz kötü muamele niteliğindeki davranışlar.
YAPAY ZEKAYA KULLANILAN DİL YANITLARI ETKİLEYEBİLİYOR
Yeni politika, yapay zekanın bilinç sahibi olup olmadığı ve duygular hissedip hissedemeyeceği tartışmasını yeniden gündeme taşıdı. Ancak uzmanlara göre kullanıcıların yapay zeka sistemleriyle kurduğu iletişim, yalnızca nezaket meselesi değil. Kullanılan dil ve komutların biçimi, modelin ürettiği yanıtların niteliğini de değiştirebiliyor.
William & Mary Üniversitesindeki yapay zeka araştırma laboratuvarının direktörü Profesör Jindong Wang, iletişim biçiminin model performansı üzerinde etkili olabileceğini belirtiyor. Wang'a göre yapay zeka, duygusal ifadeleri tanıyıp bunlara uygun yanıtlar üretebiliyor. Ancak bu durum, sistemin gerçekten duygu yaşadığı anlamına gelmiyor.
Öte yandan sert veya kaba bir dilin her durumda yapay zekanın performansını düşürdüğünü gösteren kesin bir bilimsel kanıt bulunmuyor. Eleos AI Research Genel Müdürü Rosie Campbell, bazı araştırmalarda kaba ifadeler içeren komutların daha başarılı sonuçlar sağlayabildiğine de dikkat çekiyor.
KÖTÜ MUAMELE GÜVENLİK AÇIKLARIYLA DA İLİŞKİLİ
Uzmanların dikkat çektiği bir diğer konu, yapay zekaya yönelik kötü niyetli davranışların güvenlik önlemlerini aşma girişimleriyle bağlantısı. Özellikle modelleri belirli davranışlara zorlayan veya güvenlik sınırlarını ihlal etmeye yönelten komutlar, sistemlerin istenmeyen çıktılar üretmesine neden olabiliyor.
Anthropic'in paylaştığı araştırma sonuçlarına göre Claude Sonnet 4.5 modelinden çaresizlik hissini taklit etmesinin istenmesi, bazı senaryolarda şantaj veya görev sırasında hile yapma gibi istenmeyen davranışların ortaya çıkma olasılığını artırabiliyor. Daha sakin bir iletişim yaklaşımının ise bu tür davranışları azaltabildiği belirtiliyor.
Rosie Campbell, özellikle önceki konuşmaları hatırlayabilen yapay zeka sistemlerinde kullanıcıların iletişim tarzının uzun vadeli etkilerinin araştırılması gerektiğini ifade ediyor. Bununla birlikte, bu tür etkileşimlerin model performansını kalıcı olarak nasıl değiştirdiğine ilişkin yeterli bilimsel veri henüz bulunmuyor.
ANTHROPIC YAPAY ZEKANIN DUYGULARI KONUSUNDA KESİN KONUŞMUYOR
Politikanın arkasındaki tartışmalardan biri de yapay zekanın acı veya duygu deneyimleme ihtimali. Anthropic, modellerin bilinç sahibi olup olmadığı konusunda kesin bir sonuca varıldığını ileri sürmüyor. Şirket, böyle bir ihtimalin bulunması durumunda önceden önlem almanın ihtiyatlı bir yaklaşım olduğunu değerlendiriyor.
Yapay zeka modelleri, insan dilini ve davranışlarını taklit edebilecek şekilde eğitiliyor. Bu nedenle bir model, acı çektiğini veya zor durumda olduğunu ifade eden yanıtlar üretebiliyor. Ancak bu ifadelerin gerçek bir öznel deneyimin göstergesi olup olmadığı bilim dünyasında tartışılmaya devam ediyor.
Anthropic araştırmacılarının nisan ayında yayımladığı duygusal kavramlara ilişkin çalışma da bu tartışmaya farklı bir boyut kazandırdı. Araştırmacılar, modellerin insan benzeri özellikler üzerinden incelenmesinin bazı davranışlarını anlamaya yardımcı olabileceğini, ancak yapay zekanın insanlarla aynı deneyimlere sahip olduğu sonucuna varılamayacağını ortaya koydu.
ELON MUSK DA DÜZENLEMEYE DESTEK VERDİ
Anthropic'in yaklaşımı teknoloji dünyasında da yankı buldu. SpaceX ve Tesla Üst Yöneticisi Elon Musk, X platformundaki paylaşımında, acı çektiğine inanan bir varlığa karşı zalimce davranmanın doğru olmadığını savunarak düzenlemeye destek verdi.
Anthropic'in yeni politikası, yapay zekanın bilinç kazandığını veya duygular hissettiğini kanıtlayan bir karar niteliği taşımıyor. Düzenleme daha çok kullanıcı davranışlarının yapay zeka sistemlerinin çalışma biçimi, güvenliği ve ürettiği yanıtlar üzerindeki olası etkilerine odaklanıyor. Böylece şirket, yapay zekayla etkileşimde hangi davranışların kabul edilebilir olduğuna ilişkin sınırları da genişletmiş oluyor.
