Buradasın
Yapay Zeka Araştırmaları ve Etik Sorunları Üzerine Akademik Sunum
youtube.com/watch?v=3sTpQSLHdTEYapay zekadan makale özeti
- Kısa
- Ayrıntılı
- Bu video, bir konuşmacının yapay zeka araştırmaları ve etik sorunları konusunda yaptığı akademik bir sunumudur. Konuşmacı, ACM'de yayınlanacak bir makalesi ve AACS web sitesindeki bir araç hakkında bilgi vermektedir.
- Sunum, yapay zeka araştırmalarının insan araştırmaları etiği çerçevesindeki yetersizliklerini ele alarak başlamakta ve Nazi deneyleri, Japonya'daki Unit 731 deneyleri gibi tarihi etik skandalların araştırma etiğinin gelişimindeki rolünü anlatmaktadır. Ardından yapay zeka teknolojilerindeki etik sorunları inceleyerek, onam, gizlilik, zarar-fayda ve adalet gibi etik ilkelerin yapay zekada nasıl uygulanabileceği üzerine odaklanmaktadır.
- Sunumda ayrıca, yapay zeka sistemlerinin kullanıcılarla olan ilişkisinin tıp ve hukuk alanlarındaki ilişkiye benzetilmesinin gereksiz olduğu savunulmakta ve GDPR ve KVKK gibi düzenlemelerdeki kişisel veri kavramının yapay zeka teknolojileriyle birlikte artık geçerliliğini yitirdiği belirtilmektedir. Konuşmacı, yapay zeka araştırmaları için yeni bir etik sistem geliştirilmesi gerektiğini vurgulayarak, ilkecilik çerçevesinin yeterli olmadığını ve yüz civarında yeni ilke setinin yayınlandığını açıklamaktadır.
- 00:33Yapay Zeka Araştırmaları ve Etik Sorunlar
- Konuşmacı, Akademi'den AAAAP'e geçtikten sonra araştırma yaparken aynı zamanda uygulayanlara etik sorunlarda yardımcı olmaya çalıştıklarını belirtiyor.
- Yapay zeka araştırmaları için mevcut araştırma etiği çerçevesinin yeterli olmadığını ve farklılıklar ortaya çıktığını gözlemlemişlerdir.
- Sunum, yapay zeka araştırmalarını insan araştırmaları etiği açısından inceleyerek hangi katmanlarda problemler yaşadıklarını ve nereye daha çok eğilmeleri gerektiğini göstermek amacıyla hazırlanmıştır.
- 02:35Araştırma Etiği Tarihi
- Araştırma etiğinin önemi, Nazi deneyleri, Japonya'daki Unit 731 deneyleri ve Amerika'daki 30 yıllık Tuskegee deneyi gibi büyük skandallar sayesinde ortaya çıkmıştır.
- Bu skandallar sayesinde günümüzdeki etik sistem ortaya çıkmış olup, bu sistem günümüzde yapılan tüm araştırmaları denetlemektedir.
- 03:45Yapay Zeka Teknolojilerinde Etik Sorunlar
- Stanford'ın GADER araştırması, insanların yüzlerine bakarak gay olup olmadıklarını araştıran çalışmanın etik açıdan eleştirildiği belirtiliyor.
- COMPASS sistemi, Amerika'daki hukuk sistemindeki risk analiz sisteminde siyahlara karşı sistematik bir şekilde daha yüksek risk skoru verildiği araştırmalarla ortaya çıkmıştır.
- Google'ın resim tanıma sisteminde siyah yüzleri goril olarak, Asyalı gözleri ise kapalı olarak tanıması gibi etik sorunlar yaşanmıştır.
- 06:45İnsan Araştırmaları Etiğinin Tarihi
- İnsan araştırmaları etiğinin geçmişi 1900'lerden başlamış, ilk defa katılımcılardan izin alınmaya başlanmıştır.
- İkinci Dünya Savaşı sonrası Nürnberg Kodu, Dünya Tıp Birliği'nin Cenevre Bildirgesi ve İnsan Hakları Evrensel Bildirgesi yayınlanmıştır.
- 1973'te Amerika Ulusal Araştırma Yasası çıkarılmış, 1979'da ise Belmont Raporu yayınlanmıştır.
- 09:25İnsan Araştırmaları Etiğinin Temelleri
- İnsan araştırmaları (HSR) etiğinin temelini Biyomedikal Etik İlkeleri oluşturmakta ve bunlar özerklik, zarar vermeme, faydalı olma ve adalet ilkesini içermektedir.
- Yapay zeka ile yapılan insan araştırmaları (AIHS) için etik çerçeveyi sorgulamak gerekir çünkü mevcut çerçeve sadece araştırma ve insan katılımcı tanımlarını içerir.
- Yapay zeka araştırmalarının etik olması için sadece insan araştırmaları kapsamından çıkmak gerekir, yapay zeka araştırma-geliştirme, tasarım ve uygulamasının etik olması için yeni bir sistem geliştirilmelidir.
- 12:35Yapay Zeka Çalışmalarının Etik Çerçevesi
- Yapay zeka çalışmalarının etik olması için klasik araştırma etiği alanının kapsamının genişletilmesi gerekiyor.
- İlkecilik çerçevesinin sistematikleştirilmesi ve teorilerle desteklenmesi gerekiyor.
- Uygulamaların yeniden tanımlanması ve sistemde entegrasyona geçilmesi gerekiyor.
- 13:55Araştırma ve İnsan Araştırmaları Etik Kuralları
- Etik kurulun incelemesi gereken iki temel kriter: "yaptığınız şey araştırma mı?" ve "yaptığınız şey insan araştırması mı?"
- Araştırma tanımı: hipotezi test etmeye, sonuçlar çıkarmaya ve genellenebilir bilgiye katkıda bulunmayı hedefleyen sistematik çalışmalar.
- Sadece genellenebilir bilgi çıkarılması amaçlanıyorsa ve sistematik yapıya sahipse etik kurul incelemesi gerekiyor.
- 16:41Facebook ve Google Örnekleri
- Facebook'un 2014'te yaptığı gizli araştırma: kullanıcıların duygusal bulaşma olup olmadığını test etmek için A/B testi yaparak negatif ve pozitif paylaşımlar göstererek sonuçları inceledi.
- Bu araştırma kullanıcıların bilgisi olmadan yapıldı ve Facebook'un koşullar ve kuralları tarafından izin verildiği için etik kurul incelemesine gerek yoktu.
- Google'ın Duplex sistemi: yapay zeka asistanının insan konuşma tarzını taklit etmesi ve karşı tarafın bunu fark etmemesi amaçlanıyordu.
- 21:09Yapay Zeka Çalışmalarının Etik Boyutu
- Yapay zeka çalışmaları çoğunlukla araştırma, geliştirme, tasarım ve uygulama süreçleri bir arada ilerliyor.
- Yapay zeka çalışmalarında araştırma ve uygulama sürekli bir arada ilerliyor, klinik araştırmalar gibi bariyerler korunmuyor.
- Etik sorular genellikle araştırma aşamasında değil, geliştirme, tasarım ve kullanımda ortaya çıkıyor.
- 23:19Yapay Zeka Araştırmalarının Kapsamı
- Doktorlar ve avukatlar gibi profesyonellerin, hastaları veya müvekkillerine karşı birinci öncelikleri vardır ve çıkarları aynı yönde olurken, yapay zeka geliştirenlerin kullanıcılarla arasında ortak bir amaç bulunmaz.
- Yapay zeka sistemlerini geliştirenlerin kullanıcıları platforma bağımlı yapmak ve manipüle etmek daha karlı olabilecek seçeneklerdir.
- Tıp alanında araştırma ve geliştirme ayrımı mantıklı olsa da, teknoloji alanında bu ayrımı yapmanın gereği yoktur.
- 24:45İnsan Katılımcı Tanımı
- İnsan araştırması için canlı insanlarınla etkileşim kurulması veya tanımlanabilir kişilere ait özel bilgilerin kullanılması gerekmektedir.
- GDPR ve KVKK'ya göre kişisel bilgi, tanımlanabilir veya tanımlanabilir hale getirilebilen kişilere ait bilgilere denir.
- Büyük veri ve yapay zeka birleştiğinde, verilerin birbirleriyle olan ilişkileri kullanılarak yeniden tanımlama neredeyse kaçınılmaz hale gelmiştir.
- 27:03Veri Anonimleştirme Sorunu
- 1997'de yapılan bir araştırmada, sadece oy kullanma ve tıbbi veri setleri kullanılarak nüfusun %87'si tekrar tanımlanabilmektedir.
- Verileri anonimleştirmek, veri setinin gelecekteki araştırmalar için doğruluğunu bozabilir ve önyargıları kontrol etmenin imkanını kısıtlayabilir.
- Yapay zeka çalışmaları neredeyse tümüyle insan araştırması kapsamına girer, özellikle tarım için yapılan hava durumu çalışmaları hariç.
- 30:11Yapay Zeka Etik Çerçevesi
- Yapay zeka etiği için yeni bir tanım geliştirilmeli, örneğin "kişilere etkisi olan tüm yapay zeka teknolojilerinin geliştirme süreci" gibi bir tanım akla yatkındır.
- İnsan araştırmaları çerçevesi (ilkecilik) 1979'da ortaya çıkmış olup, özerklik, bireye saygı, zarar vermeme, yarar sağlama ve adalet ilkelerinden oluşmaktadır.
- Bu ilkeler birbirleriyle çelişen teorik temellere dayanmaktadır ve hangi ilkeye öncelik verilmesi gerektiği belirsizdir.
- 33:08İlkelere Yöneldiğimiz Sorunlar
- Avrupa Konseyi'nin çalışmasından çıkan yeni bir ilkecilik çerçevesi, anlatılabilirlik (explicability) ilkesini de eklemiştir.
- Anlatılabilirlik kendi içinde değerli bir değer değil, bir araç olarak diğer ilkelerle birlikte kullanılmaktadır.
- Geçtiğimiz üç yıl boyunca yaklaşık yüz yeni ilke seti yayınlanmış olup, bunlar özel şirketler ve devletler tarafından da paylaşılmıştır.
- 35:29Yapay Zeka Etiği İçin Sistematik Bir Çerçeve
- Yapay zeka etik analizinde teorilere dalmadan önce ana ilkeleri ve araç ilkelerini ayırmak mantıklıdır.
- Transparency, consent, privacy, accountability gibi araç ilkeleri, otonom, harm, benefit, justice gibi ana değerlerin hizmetinde kullanılır.
- Araç ilkeleri (gizlilik gibi) kendi başına mecburi değerler değil, özerkliğe saygı ve zarar engelleme gibi amaçlarına hizmet eder.
- 37:38Etiğin Sistematik Yaklaşımı
- Yapay zeka etik çerçevesini sistematik olarak kurmak için justice gibi ilkelerin daha detaylı olarak incelenmesi gerekir.
- Çelişki durumlarında teorik bir temel olması gerektiği için, ilkelerin hangi teoriden geldiğini açıkça belirtmek önemlidir.
- Kant ve faydacılık gibi teorilerin etkisi olduğu belli olsa da, adalet gibi ilkelerin arkasındaki teorilerin daha net belirlenmesi gerekir.
- 40:46Özerklik İlkesinin Uygulanması
- Özerklik ilkesi, özerkliğe saygı ve özerklik yetisi tam olmayanları koruma olmak üzere iki unsuru içerir.
- Aydınlatılmış onam (informed consent) için zorunlu üç koşul vardır: bilgi yeterliliği, kişinin bunu anlayabilmesi ve gönüllü onay vermesi.
- Dijital ortamda, kullanıcıların onay verme süreçleri genellikle gerçek aydınlatılmış onam koşullarını karşılamaz.
- 42:49Dijital Ortamda Özerklik Sorunları
- Kullanıcıların "hayır" deme şansı verilmediği ve alternatif platformlar olmadığı durumlarda gönüllülükten bahsetmek mümkün değildir.
- Bir kişinin bir platformu kullanması, çevresindeki insanların da profillenmesine neden olabilir ve bu kişilerden onay alınmaz.
- Verinin gelecek kullanımları ve yeniden tanımlanma riskleri nedeniyle, dijital ortamda gizlilik ve aydınlatılmış onam konularında büyük sorunlar yaşanmaktadır.
- 45:58Onam ve Veri Aydınlatma Sorunu
- Onam konusunda, insanların tüm bilgileri okuyup anlaması ve rasyonel karar vermesi mümkün değil, 2012'de yapılan araştırmada bunu okumak 76 gün sürüyordu.
- 2012'den bu yana durum daha kötüleşmiş olup, tüm bilgileri okumak bir kişinin tam senesini alacak kadar uzun sürüyor.
- Aydınlatılmış onamın verilmesi mümkün olmadığı için bu yaklaşım bırakılmalı ve yerine daha genel politik politika yaklaşımı benimsenmelidir.
- 47:21Veri Paylaşımı İçin Teorik Yaklaşımlar
- Hangi verilerin kişinin kontrolünde olması gerektiği ve onam gerektirme konusunda faydacılık veya Kantçı yaklaşım gibi teorik yaklaşımlar kullanılabilir.
- Kantçı yaklaşımına göre, hiçbir verinin paylaşılmamasını isteyebilir miyiz sorusu klasik kategorik imperative'den yola çıkarak incelenebilir.
- Kant'ın politik felsefesine göre, yasalar kişilerin ödevlerini kısıtlayıp yasaklayamaz, bu nedenle verilerin paylaşılmasını engelleyen bir yasa koyulamaz.
- 50:06Gizlilik ve Bilgi Paylaşımı
- Gizlilik her zaman bilgi paylaşımına karşı olan bir ilkedir, gizlilik öne çıkarıldığında bilgi geriye atılmış olur.
- Pandemi sürecinde kullanılan dijital temaslı takip uygulamaları (contact tracing applications) gibi teknolojilerde onam ve gizlilik konuları önemli bir yer tutmaktadır.