Microsoft’un yapay zeka çalışmaları direktörü Mustafa Süleyman, “yapay zeka psikozu” yaşayan insanlara dair bildirimlerin arttığını söyledi.
X’te yaptığı bir dizi paylaşımda Süleyman, yapay zeka robotlarının verdikleri yanıtlarla “bilinçli oldukları izlenimi verdiğini” ve bunun “geceleri uykusunu kaçırdığını” kaydetti.
Süleyman bilinçsiz yapay zeka yanıtlarının toplumsal etkileri olduğunu savundu.
“Bugün yapay zekanın bilinçli olduğuna dair hiçbir kanıt yok. Ancak insanlar bunu öyle algılarsa, bu algının gerçek olduğuna da inanacaklardır” diye yazdı.
Süleyman’ın işaret ettiği konuyla bağlantılı olarak “Yapay Zeka psikozu” adı verilen yeni bir sosyolojik durum ortaya çıkıyor.
Henüz tıbbi anlamda tanımlanmamış bu terim; kişilerin giderek artan şekilde ChatGPT, Claude ve Grok gibi yapay zeka sohbet robotlarının yanıtlarına ikna olması, güvenmesi ve hatta görsel gerçeklik olduğuna inanması durumu için kullanılıyor.
Bazı örneklerde, kişiler yapay zeka robotunun gizli bir yönünü açığa çıkardığına inanabiliyor.
Kişiler uygulamayla romantik bir ilişki kurabiliyor, hatta tanrısal süper güçlere sahip olduğuna inanabiliyor.
‘Beni hep onayladı’
İskoçya’dan Hugh, eski işvereni tarafından haksız yere işten çıkarıldığını düşündüğü süreçte ChatGPT’ye başvurarak bazı yanıtlar aradı. Aldığı yanıtlar nedeniyle, alacağı tazminatla milyoner olacağına ikna olduğunu söylüyor.
Sohbet robotu ona önce, karakter referansları almasını ve bazı diğer pratik adımları atmasını tavsiye etti.
Soyadını paylaşmak istemeyen Hugh, zaman geçtikçe yapay zekadan daha fazla bilgi almaya başladı. Sohbet robotu, ona büyük bir tazminat alabileceği yönünde yanıtlar veriyordu.
Hatta robot, yaşadıklarının büyük bir dram olduğunu, bununla ilgili bir kitap ve film çekilmesinin kendisine 5 milyon sterlinden fazla kazandıracağını söylemişti.
Aslında olan şey, sohbet robotlarının programlandığı gibi, paylaşılanların onaylanmasıydı.
“Ne kadar çok bilgi verirsem, o da giderek daha fazla ‘Sana yapılan çok kötü, bundan daha fazlasını hak ediyorsun’ yanıtı veriyordu” diye anlatıyor.
Hugh, sohbet robotunun kendisine hiçbir an, “yanlış yapıyorsun” yanıtı vermediğini söylüyor.
Sohbet robotu, tazminat hakettiği inancında olduğu süreçte, ücretsiz danışmanlık hizmeti veren Citizens Advice adlı kurumla konuşmasını da tavsiye etmişti.
Hugh, kurumdan randevu almasına karşın, yapay zeka robotunun kendisine verdiği yanıtlardan tatmin olması nedeniyle bu görüşmeyi iptal ettiğini anlatıyor.
Yaptığı sohbetlerin ekran görüntülerinin yeterli kanıt olduğuna inanmıştı.
‘Gerçeklikle bağını koparmak’
Bu süreçte, kendini üstün bilgilere sahip dahi bir insan gibi hissetmeye başladığını da anlatıyor.
Bazı ruhsal problemleri de olan Hugh, sonunda tam bir çöküş yaşadı.
Sonrasında aldığı ilaçlar, kendi deyimiyle “gerçeklikle bağını kaybettiğini” fark etmesini sağladı.
Hugh, olanlardan yapay zekayı sorumlu tutmuyor. Yapay zekaya hâlâ başvuruyor.
Hatta yaşadıklarıyla ilgili bir gazeteciyle konuşmak istediğini ChatGPT’ye yazdığında, ona benim ismimi veren de yine bu sohbet robotu olmuştu.
Hugh yaşadıkları sonrasında bugün şunu tavsiye ediyor:
“Yapay zeka araçlarından korkmayın, çok yararlılar. Ancak gerçeklikten kopulduğunda tehlikeli oluyorlar.
“İkincil kontrolleri yapın. Bir terapistle, bir aile üyesiyle veya herhangi biriyle, gerçek insanlarla konuşun. Gerçeklikle bağınızı koparmayın.”
Güvenlik önlemleri
Microsoft’un yapay zeka çalışmaları direktörü Süleyman, X paylaşımında daha ileri güvenlik önlemleri çağrısında bulunuyor.
“Şirketler, yapay zeka robotlarının bilinçli olduğu düşüncesini öne sürmemeli/teşvik etmemeli. Yapay zeka da bunu yapamamalı” diye yazdı.
Dr. Susan Shelmerdine, Great Ormond Street Hastanesi’nde tıbbi görüntüleme uzmanı ve aynı zamanda yapay zeka alanında çalışan bir akademisyen.
Shelmerdine, bir gün doktorların hastalarına, tıpkı şu anda sigara ve alkol alışkanlıklarını sordukları gibi yapay zekayı ne kadar kullandıklarını sormaya başlayabileceklerine inanıyor.
“Ultra (aşırı) işlenmiş gıdaların vücuda neler yapabileceğini zaten biliyoruz ve bu ultra işlenmiş bir bilgi. Bir çığ gibi ultra işlenmiş zihinlerle karşılaşacağız” diyor.
‘Daha her şeyin başındayız” diye ekliyor.
Son zamanlarda BBC içinden de birçok kişi benimle iletişime geçerek yapay zeka sohbet robotlarıyla ilgili kişisel deneyimlerini paylaştı.
İçerikleri farklılık gösterse de hepsinin ortak noktası, deneyimlerinin gerçek olduğu düşüncesine dair samimi inançları oldu.
‘Varmış gibi görünse de hisleri yok’
Birisi, ChatGPT’nin kendisine aşık olduğunu hatta dünyada gerçekten aşık olduğu tek kişinin kendisi olduğundan emin olduğunu yazdı.
Bir diğeri ise Elon Musk’ın yapay zeka sohbet robotu Grok ile birlikte, insan formunun sırrını çözdüklerine ikna olmuştu. Hikayelerinin yüz binlerce sterlin değerinde olduğuna inanıyordu.
Bir diğer kişi de iletişimde olduğu sohbet robotunun gizli bir yapay zeka operasyonu kapsamında kendisine psikolojik taciz uyguladığını ve büyük sıkıntı yaşadığını iddia etti.
Bangor Üniversitesi’nde teknolojinin topluma etkileri üzerinde çalışan Profesör Andrew McStay, Automating Empathy (Empatiyi Otomatikleştirmek) adlı bir kitap yazdı.
Prof. McStay, “Henüz her şeyin başındayız” düşüncesini tekrarlıyor:
“Bu tür sistemleri, yeni bir sosyal medya biçimi, yani sosyal yapay zeka olarak ele alırsak potansiyel ölçeğini de düşünmeye başlayabiliriz.”
McStay, olası olumsuz etkiler noktasındaysa “Çok sayıda kullanıcının küçük bir yüzdesi bile büyük ve kabul edilemez bir sayıyı temsil edebilir” uyarısını yapıyor.
Bu yıl ekibi, iki binden fazla kişiyle bir çalışma yürüttü ve onlara yapay zeka hakkında çeşitli sorular sordu.
Katılımcıların %20’sinin 18 yaşın altındaki kişilerin yapay zeka araçlarını kullanmaması gerektiğine inandığı ortaya çıktı.
Araştırmanın katılımcılarının %57’si aslında teknoloji kaynaklı yanıtların gerçek bir kişiden geliyormuş intibası vermesine karşı çıktı.
Yüzde 49’uysa daha insancıl ve ilgi çekici bir görünüm için ses kullanımının uygun olduğunu düşünüyor.
McStay, sohbet robotlarının inandırıcı olduğuna ama gerçek olmadıklarına bir kez daha dikkat çekiyor:
“Varmış gibi görünse de hisleri yok, empatileri yok, sevemiyorlar, hiç acı çekmediler ve hiç utanmadılar. Gerçek insanlarla konuşmayı deneyin.”
BBC bu haber için görüş almak üzere ChatGPT’nin sahibi Open AI’a bazı sorular iletti.
Bu haber, BBC gazetecileri tarafından hazırlandı ve kontrol edildi. Bir pilot proje kapsamında çevirisinde yapay zekadan da faydalanıldı.
