ABD merkezli yapay zeka şirketi Anthropic, geliştirdiği Claude adlı yapay zeka modelinin kullanım kurallarını değiştirdi. Yeni düzenlemeyle yapay zekaya yönelik sürekli, gereksiz ve kötü niyetli davranışlara karşı önlem alınacak.
YAPAY ZEKAYA KÖTÜ MUAMELEYE YENİ SINIR
Anthropic, ekim ayında duyurduğu kullanım politikası güncellemesiyle kullanıcıların yapay zeka sistemlerine yönelik davranışlarını da düzenleme kapsamına aldı.
12 Kasım’da yürürlüğe girecek yeni kurallar, Claude’a karşı sistematik ve amaçsız biçimde sergilenen zalimce davranışları hedef alıyor.
Şirket, düzenlemenin sıradan kullanıcı tepkilerini, eleştirileri veya bilimsel araştırma amacıyla gerçekleştirilen testleri kapsamadığını vurguladı.
CLAUDE SOHBETİ SONLANDIRABİLECEK
Yeni politikaya göre Claude, kendisine sürekli kötü muamelede bulunan kullanıcılarla konuşmayı sonlandırabilecek.
Ağır ve tekrarlanan ihlallerde kullanıcıların sisteme erişiminin engellenmesi de gündeme gelebilecek. Ancak temel yaptırım, sorunlu sohbetin sonlandırılması olacak.
AMAÇ YAPAY ZEKANIN GÜVENLİĞİNİ KORUMAK
Uzmanlar, yapay zekayla kurulan iletişimin kullanılan ifadelerden ve komutların niteliğinden etkilenebildiğini belirtiyor.
Özellikle saldırgan ve kötü niyetli yönlendirmelerin, bazı durumlarda yapay zekanın güvenlik mekanizmalarını aşmaya yönelik girişimlerle bağlantılı olabileceği ifade ediliyor.
Bununla birlikte kaba ifadelerin her zaman daha kötü sonuçlar doğurduğuna ilişkin kesin bilimsel kanıt bulunmuyor.
YAPAY ZEKA DUYGU HİSSEDİYOR MU?
Anthropic’in kararı, yapay zekanın bilinç sahibi olup olamayacağı tartışmalarını da yeniden gündeme getirdi.
Şirket, Claude’un gerçekten acı çektiğini veya duygulara sahip olduğunu iddia etmiyor. Düzenlemenin temelinde, yapay zeka sistemlerinin davranışlarını ve güvenliğini etkileyebilecek risklere karşı önlem alma düşüncesi bulunuyor.
Yeni yaklaşım, insanlarla yapay zeka arasındaki iletişimin geleceğine ilişkin tartışmaları da beraberinde getirdi.
