Yapay zekanın riskleri, Birleşmiş Milletler (BM) Genel Kurulu tarafından da alınan bir kararla kabul edildi. Kararla insan hakları ve kişisel verilerin korunması hedefleniyor.
Son dönem bilim dünyasının gündemini meşgul ettiği gibi popüler gündem başlıklarında da yukarılarda yer alan Yapay Zeka (Artificial Intelligence - AI) merkeziyetsiz öğrenme yeteneği sayesinde çok hızlı gelişiyor. Hatta bu kimilerine göre kontrolsüz bir gelişim ki özellikle insan hakları konusunda endişe yaratıyor. Yapay zeka başka konularda da bir dizi potansiyel risk taşıyor. Bunlar arasında başta gelen riskler şöyle:
- Bazı işlerin otomatikleştirilmesine ve dolayısıyla bazı sektörlerde insan iş gücünün azalmasına hatta işsiz kalmasına yol açabilir.
- Halihazırda da sorunlar yaşanan veri ihlalleri ve kötüye kullanımı, yapay zeka uygulamalarının yaygınlaşmasıyla daha da artabilir.
- Yapay zeka sistemleri, önyargılı veya ayrımcı olabilir. Örneğin, cinsiyet, ırk, etnisite veya sosyoekonomik faktörlere dayalı ayrımcılığı yansıtan kararlar alabilirler. Toplumsal eşitsizlikler derinleşebilir.
- Kontrolsüz veya etik olmayan bir şekilde geliştirilip kullanılması hassas konularda (silah sistemleri gibi) otomatik karar alma yetenekleri soruna yol açabilir.
- Yapay zeka sistemlerinin hatalı kararlar alabilme olasılığı ciddi sonuçlar doğurabilir.
Tüm bu riskler ve daha fazlası son dönemde Birleşmiş Milletler Genel Kurulu’nun da gündemindeydi. BM Genel Kurulu, mart ayı içinde herkes için sürdürülebilir kalkınmaya fayda sağlaması maksadıyla "güvenli, emniyetli ve güvenilir" yapay zeka (YZ) sistemlerinin teşvik edilmesine ilişkin dönüm noktası niteliğindeki bir karara imza attı. İşin ilginci ABD öncülüğündeki karar taslağı, oylama yapılmaksızın onaylandı.
Kararın Uluslararası Telekomünikasyon Birliği (ITU), BM Eğitim, Bilim ve Kültür Teşkilatı (UNESCO) ve İnsan Hakları Konseyi de dahil olmak üzere BM tarafından halihazırda yapılmakta olan çalışmaları güçlendirmeyi hedefliyor. Genel Kurulun kararının kapsamı ise yapay zekanın risklerini aza indirmek, yapay zekanın tasarımı, geliştirilmesi ve kullanımında insan haklarına saygı gösterilmesi, korunması ve teşvik edilmesini önceliklendirmek gibi gerekliliklerle şekilleniyor.
Genel Kurul ayrıca yapay zeka sistemlerinin “17 Sürdürülebilir Kalkınma Amacı”na ulaşma yolunda süregelen ilerlemeyi hızlandırma ve mümkün kılma potansiyelini de masaya yatırdı. Kalkınmanın ekonomik, sosyal ve çevresel olmak üzere üç temel ayağını ayrılmaz bir şekilde ele alan ve aralarında bir denge kurmayı amaçlayan hedefler, hem az gelişmiş ve gelişmekte olan ülkelere hem de gelişmiş ülkelere sorumluluk ve yükümlülükler getiriyor.
Karar taslağını, 120'den fazla BM üyesi devlet, “eş-sponsor” olarak destekledi. Kararın özüne bakıldığında, "İnsanların çevrimdışı ortamda sahip oldukları hakların aynısı, yapay zeka sistemlerinin yaşam döngüsü de dahil olmak üzere, çevrimiçi ortamda da korunmalıdır" ifadesi hayli dikkat çekici. Yukarıda saydığımız tüm riskleri bertaraf etmeyi hedefleyen kararın, BM üye ülkelerde yakın zamanda hukuki arenada da karşılık bulması bekleniyor.
Karardaki öneriler
Genel Kurul, tüm BM üyesi devletlere ve paydaşlara yönelik olarak şöyle bir çağrıda bulunuyor: "Uluslararası insan hakları hukukuna uygun olarak işletilmesi mümkün olmayan veya insan haklarından yararlanılması açısından gereksiz riskler oluşturan yapay zeka sistemlerinin kullanımından kaçının.” Karar kapsamındaki diğer öneriler ve vurgular ise şöyle sıralanabilir:
- Tüm devletler özel sektörü, sivil toplumu, araştırma kuruluşlarını ve medyayı; yapay zekanın güvenli, emniyetli ve güvenilir kullanımıyla ilgili desteklemeli.
- Ülkeler arasında teknolojik ve dijital gelişim farklı seviyelerde. Gelişmekte olan ülkeler inovasyonun hızlı temposuna ayak uydurma konusunda çok zorlanıyor. Bu nedenle üye devletler ve paydaşlar, kapsayıcı ve adil erişimden faydalanabilmeleri, dijital uçurumu kapatabilmeleri ve dijital okuryazarlığı artırabilmeleri için gelişmekte olan ülkelerle iş birliği yapmalı, onları desteklemeli.
Bu karar için ortaya konan kapsayıcı ve yapıcı diyalog, yapay zeka ile ilgili barış, güvenlik ve yapay zekanın askeri kullanımı gibi başka arenalarda ortaya çıkacak zorlukların çözümü açısından bir model olabilir. Bu da hayli umut verici bir gelişme olarak kabul ediliyor. Daha da önemlisi kararın hem küresel bir dijital sözleşmeye yönelik müzakereleri hem de Genel Sekreter'in yapay zeka konusundaki üst düzey danışma organının çalışmalarını ve gelecekteki BM girişimlerini tamamlaması hedefleniyor. Bu teknolojinin bizi yönetmesine izin vermek yerine insanlığın onu yönetmesi ise temel bir gereklilik ve öncelik olmalı.
Kaynaklar :
