Bletchley Deklarasyonu ve Yapay Zeka Güvenliği [TR]

Mevcut diller: EN, TR

Bu sayfa orijinal İngilizce makalenin çevirisidir. Lütfen navigasyonun yalnızca İngilizce olarak mevcut olduğunu unutmayın.

Bletchley Deklarasyonu’na yönelik açık çağrı ve kamuoyu tartışmalarına katkı sunduk. Deklarasyon; yapay zeka güvenliğinde çok paydaşlı bakış açısını daha da genişletmeyi, kamu ve kritik altyapı, sağlık hizmetleri, eğitim, yardımcı ve erişilebilirlik teknolojileri gibi alanları kapsayan vaka ve senaryolar sunmayı amaçlamaktadır.

Bletchley Deklarasyonu, 1 Kasım 2023’da Birleşik Krallık’ın Bletchley Park’ında düzenlenen Yapay Zeka Güvenliği Zirvesi sırasında imzalanan, dönüm noktası niteliğinde bir uluslararası anlaşmadır. Amerika Birleşik Devletleri, Çin ve Avrupa Birliği üyeleri dahil 28 ülke ile AB’nin kendisi tarafından onaylanan deklarasyon, yapay zekanın (YZ) güvenli ve sorumlu biçimde geliştirilmesine yönelik ortak bir taahhüt oluşturmaktadır. Deklarasyon, özellikle toplumsal açıdan önemli etkilere sahip olma potansiyeli taşıyan, yüksek kapasiteli genel amaçlı modeller olan “sınır YZ” sistemlerine odaklanmaktadır.

İlgili

Deklarasyonun İlkeleri ve Hedefleri

  • İnsan Odaklı ve Sorumlu Yapay Zeka: Deklarasyon, yapay zekanın güvenli, insan odaklı, güvenilir ve sorumlu biçimde tasarımlanması, geliştirilmesi, kullanıma sunulması ve kullanılması gerektiğini vurgulamaktadır.

  • Risklerin Tanınması: Deklarasyon, kasıtlı kötüye kullanım ya da istenmeyen sonuçlar yoluyla, sınır YZ modellerinin en önemli kapasitelerinden kaynaklanabilecek ciddi, hatta yıkıcı zararların potansiyelini kabul etmektedir.

  • Uluslararası İşbirliği: İmzacılar, bu risklerin en iyi şekilde uluslararası işbirliği yoluyla ele alınabileceği konusunda uzlaşmıştır. Amaç, YZ riskleri hakkında paylaşılmış, bilimsel ve kanıta dayalı bir anlayış oluşturmak ve güvenliği sağlamak için risk temelli politikalar geliştirmektir.

  • İnovasyon ve Düzenleme Arasındaki Denge: Deklarasyon, yapay zekanın faydalarını en üst düzeye çıkarırken bununla ilişkili riskleri de ele alan, inovasyonu destekleyen ve orantılı bir yönetişim ile düzenleme yaklaşımının önemini vurgulamaktadır.

Kamuoyu Tartışması

Kamu sistemleri ve kritik altyapı perspektifinden şunları ön plana çıkardık:

  • Senaryolar ve İlgililik: OECD Yapay Zeka Güvenlik Araçları ve Kaza Arşivleri’ne yapılan katkılarda da görüldüğü üzere, yapay zekanın gerçek kullanım örneklerine ve uygulamalarına odaklanmanın önemini vurgulamak. YZ güvenliği ve yönetişimi, yaşanmış deneyimlere ve somut uygulamalara dayandırılmalıdır.

  • Açık Erişim ve Şeffaflık: Yalnızca uygulamaları değil, temel modelleri ve altyapıyı da kapsayan kamu ve yardımcı teknolojiler arşivlerine açık erişimi savunmak. OECD yardımcı teknolojiler veri havuzuna yapılan katkı, erişilebilirlik ve şeffaflığa olan bu bağlılığı yansıtmaktadır.

  • Risk Değerlendirmeleri: Mevcut düzenleyici çerçevelerde sıklıkla göz ardı edilen gruplar olan çocuklar, hastalar, bakıcılar ve diğer savunmasız nüfus kesimlerini açıkça dikkate alan kapsamlı ve kaps ayıcı risk değerlendirmeleri talep etmek.

  • Coğrafi ve Sosyoekonomik Bağlam: YZ sistemleri uygulanırken ve değerlendirilirken farklı bölgelerdeki sosyoekonomik kalıpları ve tarihsel bağlamları göz önünde bulundurmanın önemini vurgulamak ve küresel ölçekte geçerli bir yönetişim sağlamak.

  • Sınır Modellerde Yazılım ve Donanım Değerlendirmesi: Büyük dil modelleri (LLM’ler), görüntü-dil modelleri (VLM’ler) ve 3B temel modeller gibi sınır YZ modellerini, kamu ve yardımcı altyapıda kullanılan sensörler ve dokunsal arayüzler dahil destekleyici donanım ekosistemlerini de kapsayacak şekilde bütüncül bir yaklaşımla değerlendirmeyi önermek.

  • Eğitim Ortamları ve Düzenleyici Sanal Ortamlar: Hem yazılım hem de donanım bileşenlerini bütünleştiren, gerçek dünyaya dayalı, disiplinlerarası eğitim ortamlarının geliştirilmesini desteklemek. Bu ortamlar, kontrollü ama gerçekçi koşullarda YZ sistemlerini güvenli biçimde geliştirmek, test etmek ve doğrulamak için test düzenekleri ve düzenleyici sanal ortamlar içermelidir.

  • Çok Modlu Erişilebilirlik Standartları: YZ sistemlerinin duyusal veya bilişsel engelli kullanıcılar için erişilebilir olmasını sağlamak amacıyla standartlaştırılmış, çok modlu bildirim ve iletişim sistemlerinin (ör. işitsel, görsel, dokunsal ve basitleştirilmiş metin ipucu) uygulanmasını önermek.

  • İnsan Denetimi ve Hesap Verebilirlik: Özellikle özerklii veya kritik kararları etkileyen yapay zeka destekli yardımcı teknolojiler için kademeli insan denetim protokolleri önermek. Bu, güvenilirlik ve güvenliği sağlamak amacıyla paydaşlar arasında çok düzeyli doğrulama süreçlerini kapsamaktadır.

  • Kritik Ortam Test Düzenekleri: Erişime, hizmet kalitesine ve kullanıcı özerkliliğine gerçek dünyadaki etkilerini değerlendirmek için hastaneler, okullar ve yerinde yaşlanma tesisleri gibi temel hizmet ortamlarını taklit eden alana özgü test düzeneklerinin oluşturulmasını teşvik etmek.

  • Sivil Toplum için Araştırma Erişimi: Sivil toplum kuruluşlarının ve bağımsız araştırmacıların, savunmasız kullanıcılara yönelik özel korumalarla birlikte gerçek dünya senaryolarında YZ sistemlerini inceleyebileceği güvenli ve şeffaf araştırma erişim çerçevelerini savunmak.

Bletchley Deklarasyonu açık mektubunu imzalayarak, çok sayıda tamamlayıcı yaklaşım aracılığıyla YZ güvenliği ve erişilebilirliği konusundaki küresel diyaloğu güçlendirme taahhüdümüzü yeniden teyit ediyoruz. NIST’in Yapay Zeka Risk Yönetimi Çerçevesi, ISO/IEC standartları ve AB Yapay Zeka Yasası gibi yeni ortaya çıkan yönetişim çerçevelerinin uyumlaştırılmasını savunurken, etkili denetimin çok paydaşlı bakış açılarını ve metodolojileri bütünleştirmesi gerektiğini vurgulamaktayız. Teknik standartları insan merkezli tasarımla birleştirerek ve YZ yaşam döngüsü boyunca erişilebilirliği kökleştirerek, sınır modellerin yalnızca riskleri azaltmakla kalmayıp yardımcı teknolojilere en çok ihtiyaç duyanlar için kapasiteleri aktif biçimde genişlettiğinden emin olabiliriz. Bu bütünleşik yaklaşım, YZ’nin her toplulukta ve bağlamda insan onurunu, özerkliğini ve erişimini ilerletmesini sağlamak için vazgeçilmezdir.

• • •

Kaynaklar

¹ Birleşik Krallık Hükümeti. “Yapay Zeka Güvenliği Zirvesi’ne Katılan Ülkeler Tarafından Yapılan Bletchley Deklarasyonu, 1–2 Kasım 2023.” GOV.UK. 1 Kasım 2023.

² Birleşik Krallık Hükümeti. “Yapay Zeka Güvenliği Zirvesi 2023, Bletchley Park Başkan’ın Özeti.” GOV.UK. 2 Kasım 2023.

³ NIST. “Yapay Zeka Risk Yönetimi Çerçevesi (AI RMF 1.0).” NIST AI.100-1. Ulusal Standartlar ve Teknoloji Enstitüsü. 26 Ocak 2023.

⁴ Uluslararası Standartlaştırma Örgütü. “ISO/IEC 23894:2023 — Bilgi teknolojisi — Yapay zeka — Risk yönetimine kılavuz.” 2023.

⁵ OECD.AI. “Yapay Zeka Olayları İzleme (AIM) — Küresel Yapay Zeka Olayları ve Tehlikeleri Platformu.” 2023.

⁶ OECD. “Yapay zeka olayları ve ilişkili terimlerin tanımlanması.” Ekonomik İşbirliği ve Kalkınma Örgütü. 2024.