Ders 2.70: Yapay zekâ araçlarının kullanımını yönetmek
Çalışanlar üretken yapay zekâ araçlarını herhangi bir politikanın izleyebileceğinden hızlı benimsedi: sohbet asistanları, kod yardımcıları, toplantı dökümü araçları; çoğu zaman ücretsiz kişisel hesaplarla. Her biri şirket verisinin gittiği bir yerdir ve bazı üreticiler yazdıklarını modellerini eğitmek için kullanır. Aynı zamanda AB Yapay Zekâ Yasası (1 Ağustos 2024'ten beri yürürlükte) gibi yasalar, iş başvurularını eleyen yapay zekâ gibi belirli kullanımlara yükümlülükler getirir. Laboratuvarda Northwind'in yapay zekâ aracı envanterini politikasıyla karşılaştırıyor, gizli verinin onu saklayan araçlara nereden gittiğini buluyor, kullanımları riske göre sınıflandırıyor ve eylemleri yazıyorsun.
17 dk
Bu derste öğreneceklerin
- Yönetilmeyen yapay zekâ aracı kullanımının başlıca risklerini açıklamak
- Bir yapay zekâ aracı envanterini bir kullanım politikasına göre denetlemek
- Girdilerle eğitim yapan araçlara gönderilen gizli veriyi bulmak
- Kullanımları AB Yapay Zekâ Yasası risk kategorileriyle sınıflandırmak
- Orantılı yönetişim eylemleri yazmak
Temel terimler
- Üretken yapay zekâ
- İstemlerden metin, kod, görüntü ya da ses üreten yapay zekâ.
- Girdilerle eğitim
- Bir üreticinin kullanıcıların gönderdiklerini modellerini geliştirmek için kullanması.
- Gölge yapay zekâ
- Onay ya da gözetim olmadan iş için kullanılan yapay zekâ araçları.
- AB Yapay Zekâ Yasası
- 1 Ağustos 2024'ten beri yürürlükte olan, yükümlülükleri risk kategorisine göre aşamalı AB yapay zekâ tüzüğü.
- Yüksek riskli yapay zekâ sistemi
- Yapay Zekâ Yasası'nın listelediği (örneğin işe alım, kredi puanlama), sıkı gereklilikleri olan kullanım.
- ISO/IEC 42001
- Bir yapay zekâ yönetim sistemi için uluslararası standart (2023).
← CIS Kontrolleri v8: IG1 öz değerlendirmesi · Tüm dersler · Denetimleri sınamak: tasarım ve işleyiş etkinliği →