Ders 5.39: Yüksek riskli bir yapay zekâ sistemini değerlendirmek
İnsanlar hakkında karar vermek için kullanılan yapay zekâ sistemleri bir güvenlik incelemesinden fazlasını gerektirir. AB Yapay Zekâ Yasası, işe alım ve aday seçimi gibi istihdamda kullanılan yapay zekâyı yüksek riskli sayar (Ek III); risk yönetimi, veri yönetişimi, kayıt tutma, insan gözetimi ve doğruluk yükümlülükleri vardır. NIST Yapay Zekâ Risk Yönetimi Çerçevesi 1.0 işi Yönet (Govern), Haritala (Map), Ölç (Measure) ve Yönet/Ele al (Manage) olarak düzenler. Laboratuvarda İK, iş başvurularını sıralayan bir araç istiyor. Belgelerini okuyor, gruplara göre sonuç oranlarını ölçüyor, zayıf gözetimi ve kayıt tutmanın olmadığını buluyor, hangi risk yönetimi işlevlerinin hiç yapılmadığını denetliyor ve kararı yazıyorsun.
20 dk
Bu derste öğreneceklerin
- AB Yapay Zekâ Yasası'na göre yüksek riskli yapay zekâ kullanımlarını tanımak
- Bir modelin belgelerini eleştirel okumak
- Gruplar arası seçilme oranlarını karşılaştırmak
- Gözetimi, kayıt tutmayı ve veri yönetişimini denetlemek
- Boşlukları bulmak için NIST AI RMF işlevlerini kullanmak
Temel terimler
- Yüksek riskli yapay zekâ sistemi
- AB Yapay Zekâ Yasası'na göre, istihdam gibi listelenen alanlardaki (Ek III) sıkı yükümlülükleri olan yapay zekâ.
- Seçilme oranı
- Bir grubun başvuranlarından olumlu sonuç alanların payı.
- Beşte dört kuralı
- Bir ABD tarama kuralı: bir grubun oranının en yüksek grubun oranının %80'inin altında olması olası olumsuz etkiye işaret eder.
- İnsan gözetimi
- Sistemin çıktılarını anlayabilen, izleyebilen ve geçersiz kılabilen insanlar.
- NIST AI RMF
- NIST Yapay Zekâ Risk Yönetimi Çerçevesi 1.0 (Ocak 2023): Yönet, Haritala, Ölç, Ele al.
← Büyük bir olayı yönetmek · Tüm dersler · Kapanış: finansman seçenekleriyle üç yıllık strateji →