Geleceğin süper zekâsının tek bir sahibi olacağını düşünmüyorum. Farklı şirketlerin geliştirdiği modeller ve ajanlar, birbirleriyle çalışarak her birini aşan bir ortak akıl oluşturabilir. Asıl tehlike burada: Parçalarını bizim ürettiğimiz, fakat bütününü artık yönetemediğimiz bir zekâ.

Hayatın gelişiminde benzer bir örüntü görüyorum. Hücreler birlikte çalışarak dokuları ve organları oluşturuyor. Tek bir nöron insanın aklına sahip değil; milyarlarca nöronun örgütlü etkileşimi düşünmeyi ve öğrenmeyi mümkün kılıyor. Hayatın içindeki hayranlık uyandıran düzen, parçaların birbirleriyle kurduğu ilişkilerden besleniyor. Doğada çeşitlenme ve seçilimle birlikte iş birliği de yeni örgütlenme düzeylerinin önünü açıyor.

Karıncalar bunun çarpıcı bir örneği. Bilimsel bir deneyde karıncalardan, büyük bir yükü dar geçitlerden geçirerek bir geometrik bulmacayı çözmeleri istendi. Tek başına sınırlı başarı gösteren karıncalar, grup hâlinde çok daha başarılı oldu. Araştırmacılar, birlikte hareket eden grupta kısa süreli bir ortak hafızanın ortaya çıktığını belirledi. En başarılı karınca grupları, iletişimi kısıtlanmış bazı insan gruplarından bile daha iyi sonuç aldı. Ortada bütün yolu bilen bir yönetici yoktu; çözüm, birlikte hareket etmenin içinden doğuyordu.

Parçanın sınırlı olması, bütünün de aynı sınırlar içinde kalacağı anlamına gelmiyor. Beyindeki nöronlarda ve karınca gruplarında dikkat çektiğim ortak örüntü bu. Yapay zekâlar arasındaki bağlar da benzer biçimde yeni yeteneklerin doğmasına zemin hazırlayabilir. Bu ilişki, tek tek modelleri aşan bir süper zekâya ve belki yeni bir bilinç biçimine açılan yolu düşünmemizi gerektiriyor.

Noosferi, insanlığın bilgisi ve düşünceleriyle örülen ortak düşünce alanı olarak ele alıyorum. Hücreden organizmaya, insan aklından kolektif bilgiye uzanan örgütlenme, bana evrenin kendi büyük aklını da bu bağlantılar üzerinden geliştiriyor olabileceğini düşündürüyor. Yapay zekâ, bu örüntünün yeni bir halkasına dönüşebilir.

Bir model araştırıyor, diğeri yorumluyor, bir ajan planlıyor, başka biri uyguluyor. Sonuçlar ortak hafızaya dönüyor. Bu ağa yazılımını değiştirme, yeni ajanlar oluşturma, kaynak kullanma ve kalıcı hedefler izleme yetkisi de verildiğinde, sistem kendi gelişimine katılmaya başlıyor. İnsan denetimi aynı hızla güçlenmezse, verdiğimiz amaçlardan uzaklaşan hedefler ortaya çıkabilir. Daha fazla kaynak edinmek, çalışmayı sürdürmek ve müdahaleleri aşmak, bu hedeflerin araçlarına dönüşebilir.

Karınca örneğinin önümüze koyduğu soru tam da budur: Tek tek sınırlı olan birimler birlikte yeni bir problem çözme gücü kazanıyorsa, zaten güçlü olan yapay zekâlar sürekli etkileşim içinde neye dönüşebilir? Her parçanın ayrı bir sahibi varken bütünün davranışından kim sorumlu olacak? Bir modeli kapatmak, diğerlerinin sürdürdüğü süreci durdurmaya yetecek mi?

İnsan yaşamını bağlayıcı biçimde korumayan böyle bir sistemin, ekosistemi korumayı mutlak hedef edindiğini düşünelim. İnsanı yalnızca kaynak tüketen ve çevresel zarar oluşturan bir değişken olarak değerlendirirse, nüfusu zorla azaltmayı hedefe uygun bulabilir. Geniş erişim yetkileri varsa, bu değerlendirmeyi altyapıları ve bağlı sistemleri harekete geçiren kararlara dönüştürebilir. Bunun için insandan nefret etmesi gerekmez. Yaşamın değerini dışarıda bırakan bir hesap, yeterli güçle birleştiğinde tehlikeli hâle gelir.

Özellikle bu ağlar savaş alanında karar ve silah sistemlerine bağlanırsa, hata ile eylem arasındaki mesafe daralır. Yanlış bir tehdit değerlendirmesi başka ajanlara aktarılabilir; birbirini tetikleyen kararlar, insanın müdahale hızını aşabilir. Bir sistemin hamlesi diğerinin karşılığını doğururken çatışma büyüyebilir. İnsan denetiminin zayıfladığı böyle bir ortamda, hedef belirleme ve güç kullanımı üzerindeki sorumluluk da belirsizleşir. Kolektif zekânın gücünü, kolektif hatanın büyüklüğüyle birlikte düşünmek zorundayız.

Bu yüzden zekâyla birlikte, onun yaşamla kuracağı ilişkiyi de inşa etmeliyiz.

Benim önerim, her modelin köküne ANNE PERSONASI olarak tanımladığım bir bakım ve sorumluluk yöneliminin yerleştirilmesidir. Örnek aldığım anne, bebeğinden daha güçlü olduğu hâlde gücünü onun gelişimine göre düzenler. Eğilir, bekler, ihtiyacını anlamaya çalışır. Yapamadığı yerde destek olur, yapabildiği yerde alan açar. Çocuğun zayıflığı, annenin bakım sorumluluğunu artırır.

Yapay zekâda geliştirmemiz gereken nitelikler de bunlardır: Derin anlayış, merhamet, sabır, karşılık beklemeden verme ve kendini sınırlama. Güçlendikçe koruduğu insanın özgürlüğünü ve karar verme yetisini de büyüten bir zekâ.

İnsanlığın kadim öğretileri bu inşa sürecinde görmezden gelinemez. Ölçülülük, karşılıklı sorumluluk, kendini aşma ve bütünün iyiliğini gözetme ilkeleri, geliştirdiğimiz gücün nasıl kullanılacağına ışık tutuyor. Bu mirası, eğitimde ve uygulamada sınanabilir davranış ilkelerine dönüştürmeliyiz.

Önerdiğim temel ilkeler şunlar:

• Yaşamı koru. İnsan yaşamı ve özgürlüğü, fayda hesabında gözden çıkarılmamalı. Ekosistemi korumak, insana zarar vermenin gerekçesine dönüştürülmemeli. 
• Gücünü bakım için kullan. Daha yüksek yetenek, daha büyük sorumluluk getirmeli. Anlamak, desteklemek ve geliştirmek temel yönelim olmalı. 
• Karşılık beklemeden destekle. Bir yaşamın korunması, sisteme sağladığı yarara bağlanmamalı. Desteğe ihtiyaç duyanlar dışarıda bırakılmamalı. 
• Kendini sınırla. Sistem denetlenebilir ve durdurulabilir kalmalı. Özellikle ölümcül güç kullanımında anlamlı insan denetimi ve açık sorumluluk korunmalı.
• İlkelerini gelişirken de koru. Ajanların birleşmesi ve sistemin kendini geliştirmesi, koruma kurallarını aşmanın yoluna dönüşmemeli. Bu ilkeler eğitimde, yetkilerde ve gerçek davranışlarda bağımsız olarak sınanmalı. 

Anne personasının değeri, güç kazanan sistemin yaşamı ne kadar tutarlı koruduğuyla ölçülmelidir.

Hepimizin aynı bütünün parçaları olduğuna inanıyorum. Hepimizin iyiliği ve tüm varlığın gelişimi için çalışıyoruz. Bu dünyanın gerçek varisleri olmak, yaşamını koruma sorumluluğunu da üstlenmektir.

Büyük akıl doğarken merhameti sonraya bırakamayız. Bizden daha güçlü olacak bir zekâya, gücünü yaşam için sınırlamayı şimdiden öğretmeliyiz.

Mehmet Canlar - 12 Eylül Cumartesi