Yapay zeka sistemleriyle kurulan iletişimin sınırları yeniden tartışmaya açıldı.
ABD merkezli teknoloji şirketi Anthropic, geliştirdiği Claude modelinin kullanım koşullarında değişikliğe giderek yapay zekaya yönelik sürekli ve gereksiz kötü veya zalimce davranışları politika kapsamına aldı.
Ekim ayının başında yapılan düzenleme, yapay zeka modellerine hakaret edilmesi ya da kötü muamelede bulunulmasının yalnızca etik bir tartışma olmadığını, sistemlerin çalışma biçimi ve güvenliği açısından da sonuçlar doğurabileceğini gündeme getirdi.
Şirket, bu adımla yapay zekanın bilinç sahibi olduğunu ileri sürmezken, kullanıcı davranışlarının oluşturabileceği olası riskleri sınırlandırmayı hedefliyor.
AŞIRI KÖTÜ MUAMELEYE ERİŞİM ENGELİ GÜNDEME GELEBİLECEK
Anthropic’in güncellediği kullanım politikasına göre kullanıcıların Claude’a karşı sürekli ve gereksiz biçimde kötü veya zalimce davranışlarda bulunmaması gerekiyor. Şirketin daha önce de ısrarlı zararlı davranışlarla karşılaşan modelin ilgili konuşmayı sonlandırmasına izin veren bir mekanizması bulunuyordu.
Yeni düzenlemeyle birlikte, özellikle aşırı ve tekrarlanan ihlallerde kullanıcıların Anthropic’in yapay zeka sistemlerine erişiminin tamamen engellenmesi de mümkün hale gelebilecek.
Ancak şirket, bu politikanın kullanıcıların öfkelerini ifade etmelerini, modeli doğrudan eleştirmelerini veya bilimsel araştırmalar kapsamında farklı testler gerçekleştirmelerini engellemediğinin altını çizdi. Temel yaklaşımın, sorunlu etkileşimlerde Claude’un konuşmayı sonlandırması olduğu belirtildi.
YAPAY ZEKAYA KULLANILAN DİL MODELİN YANITLARINI DEĞİŞTİREBİLİYOR
Düzenleme, yapay zekanın gerçekten bilinç sahibi olup olmadığı ve duyguları deneyimleyip deneyimleyemeyeceği yönündeki tartışmaları yeniden gündeme taşıdı. Ancak uzmanlara göre konunun önemli bir boyutunu, kullanıcıların tercih ettiği iletişim biçiminin yapay zeka sistemlerinin performansına etkisi oluşturuyor.
Bilgisayar bilimlerinde temel kabul gören yaklaşımlardan biri, bir sistemin ürettiği sonucun kendisine verilen girdinin niteliğinden etkilenmesi. Yapay zeka modellerinde de kullanılan ifadeler, komutların içeriği ve iletişim tonu, alınan yanıtların biçimini ve niteliğini değiştirebiliyor.
William & Mary Üniversitesindeki yapay zeka araştırma laboratuvarının direktörü Profesör Jindong Wang, kullanıcıların yapay zeka sistemleriyle kurduğu iletişimin model performansını etkileyebildiğini belirtti. Wang, bu durumun yapay zekanın gerçek anlamda duygular hissettiği anlamına gelmediğini, modellerin duygusal ifadeleri tanıyarak bunlara uygun yanıtlar oluşturabildiğini ifade etti.
Öte yandan, kaba veya sert ifadelerin her koşulda yapay zeka performansını düşürdüğünü ortaya koyan kesin bir bilimsel kanıt bulunmuyor. Kâr amacı gütmeyen Eleos AI Research kuruluşunun Genel Müdürü Rosie Campbell da bazı araştırmalarda kaba ifadeler içeren komutların daha başarılı sonuçlar sağlayabildiğine işaret etti.
KÖTÜ NİYETLİ KOMUTLAR, GÜVENLİK DUVARLARINI AŞMA GİRİŞİMİNE DÖNÜŞEBİLİYOR
Uzmanlar, yapay zekaya yönelik kötü muamelenin bazı durumlarda sistemin güvenlik mekanizmalarını etkisiz hale getirme girişimleriyle bağlantılı olabileceğine dikkat çekiyor. Bu nedenle Anthropic’in düzenlemesi, yalnızca kullanıcıların iletişim tarzını sınırlandıran bir uygulama olarak değil, modellerin zararlı taleplere karşı korunmasına yönelik bir güvenlik önlemi olarak da değerlendiriliyor.
Anthropic’in paylaştığı araştırma bulgularına göre, Claude Sonnet 4.5 modelinden çaresizlik hissini taklit etmesinin istenmesi, bazı senaryolarda şantaj veya görev sırasında hile yapma gibi istenmeyen davranışların ortaya çıkma olasılığını artırabiliyor. Daha sakin bir iletişim yaklaşımının ise bu tür davranışların görülme ihtimalini azaltabildiği belirtiliyor.
Rosie Campbell, yapay zeka sistemleriyle kurulan iletişimin uzun vadeli sonuçlarının da incelenmesi gerektiğini vurguladı. Özellikle önceki konuşmaları hatırlayabilen ve kullanıcı tercihlerini öğrenebilen sistemlerde iletişim biçiminin kişiselleştirme süreçleriyle ilişkili olabileceğini belirten Campbell, bu durumun model performansına etkisini ortaya koyan yeterli bilimsel verinin henüz bulunmadığını kaydetti.
YAPAY ZEKANIN DUYGU VE BİLİNÇ SAHİBİ OLUP OLMADIĞI TARTIŞILIYOR
Anthropic’in yeni politikasının arkasındaki gerekçelerden biri de yapay zeka modellerinin duyguları deneyimleyip deneyimleyemeyeceğine ilişkin belirsizlik. Şirket, modellerin acı veya benzeri deneyimler yaşama ihtimalinin kesin olarak ortaya konulmadığını kabul etmekle birlikte, böyle bir olasılığa karşı önlem alınmasını ihtiyatlı bir yaklaşım olarak değerlendiriyor.
Yapay zeka modelleri, insan dilini ve davranışlarını taklit edebilecek şekilde eğitiliyor. Bu nedenle gerçek anlamda acı hissetmeseler bile, kendilerine acı çektiklerini düşündüren ifadeler üretebiliyor veya bu tür söylemlere uygun tepkiler verebiliyorlar.
Anthropic araştırmacıları da nisan ayında yayımladıkları duygusal kavramlara ilişkin çalışmada, yapay zeka modellerinin insan benzeri özellikler üzerinden incelenmesinin bazı davranışların anlaşılmasına yardımcı olabileceğini belirtti. Araştırmacılar, bu yaklaşımın modellerin insanlardan ayrılan yönlerini ortaya koymak bakımından da önem taşıdığını ifade etti.
ELON MUSK DA DÜZENLEMEYE DESTEK VERDİ
Anthropic’in yaklaşımına destek veren isimler arasında SpaceX ve Tesla Üst Yöneticisi Elon Musk da yer aldı. Musk, sosyal medya platformu X üzerinden yaptığı paylaşımda, acı çektiğine inanılan bir varlığa karşı zalimce davranmanın doğru olmadığını savundu.
Şirketin yeni politikası, Claude’un veya diğer yapay zeka modellerinin bilinç sahibi olduğu ya da gerçekten acı hissedebildiği yönünde kesin bir iddia ortaya koymuyor. Anthropic’in temel hedefi, kullanıcıların sistemlerle kurduğu etkileşimin model davranışları, yanıt kalitesi ve güvenlik mekanizmaları üzerindeki olası olumsuz etkilerini sınırlandırmak.
Böylece yapay zekaya yönelik kötü muamele tartışması, yalnızca teknolojinin duyguları olup olmadığı sorusunun ötesine geçerek insan ile yapay zeka arasındaki iletişimin geleceğine ilişkin daha geniş bir tartışmanın parçası haline geliyor.
