MaviParagraf
Kayıtlı Üye
Yapay zekâ etiği, bir yapay zekâ sistemini kullanırken zararı azaltmayı, insan kararını korumayı, adil davranmayı, gizliliği gözetmeyi ve üretilen bilgiyi doğrulamayı amaçlayan ilkeler bütünüdür. Günlük kullanımda bunu uygulamak için yapay zekâya hangi bilgiyi verdiğinizi, çıktıyı ne kadar güvenilir kabul edebileceğinizi ve son kararı kimin verdiğini her kullanımda kontrol edin.
Bir sohbet botuna soru sormadan, metin yazdırmadan veya karar desteği almadan önce ve yanıtı kullandıktan sonra şu sırayı izleyin:
Etik değerlendirme, yalnızca “Yanıt doğru mu?” sorusundan ibaret değildir. Yanıt doğru olsa bile gizli veri kullanılarak üretilmiş, bir grubu haksız biçimde dışlamış veya kararın nedenini açıklamayı imkânsız hâle getirmiş olabilir. Bu nedenle günlük kullanımda şu ayrımı koruyun:
Tablodaki olumlu işaretler riskin ortadan kalktığını kanıtlamaz; yalnızca daha güvenli bir kullanım için gerekli temel koşulları gösterir. Risk yüksekse yapay zekâdan karar vermesini değil, seçenekleri düzenlemesini veya sorulacak soruları hazırlamasını isteyin.
Bir iş e-postasını daha nazik hâle getirmek istediğinizi varsayalım. Gerçek kişi adlarını, müşteri bilgilerini ve şirket içi ayrıntıları doğrudan vermek yerine şu tür bir istem yazabilirsiniz: “Aşağıdaki taslağı daha açık ve saygılı bir e-postaya dönüştür. Yeni bilgi ekleme, suçlayıcı ifadeleri yumuşat ve eksik kalan noktaları ayrıca belirt.”
Yapay zekânın çıktısı daha yumuşak bir metin olabilir; ancak bu, metnin olayları doğru aktardığını veya hukuki ve kurumsal açıdan uygun olduğunu göstermez. Göndermeden önce tarihleri, sorumlulukları, taahhütleri ve alıcının yanlış anlayabileceği ifadeleri kontrol edin. Çıktı önemli bir iddia ekliyorsa bu eklemeyi kaldırın ya da ayrıca doğrulayın.
Sistem kişisel veriyi gereksiz biçimde istemeye devam ediyorsa, yanıtlar önemli ölçüde çelişiyorsa, kaynağı doğrulanamayan kesin hükümler veriyorsa veya çıktının bir kişiye ciddi zarar verme ihtimali varsa işlemi durdurun. Daha az veriyle yeniden deneyin, amacı daraltın ve son kararı yapay zekâya bırakmayın. Kontrol edemediğiniz bir çıktıyı yayımlamak, çalıştırmak ya da bir kişi hakkında karar vermek yerine güvenilir bir insan uzmanından değerlendirme alın.
Etik kullanımın pratik ölçütü şudur: Veriyi gereksiz yere açığa çıkarmıyor, yanıtı doğruluyor, olası önyargıyı sorguluyor ve sorumluluğu yapay zekâya devretmiyorsanız daha bilinçli bir kullanım yapıyorsunuz.
Günlük kullanım için temel kontrol listesi
Bir sohbet botuna soru sormadan, metin yazdırmadan veya karar desteği almadan önce ve yanıtı kullandıktan sonra şu sırayı izleyin:
- Paylaşacağınız bilgiyi sınıflandırın. Kimlik numarası, parola, banka bilgisi, sağlık kaydı, özel yazışma, iş sırrı veya başka bir kişinin kişisel verisini gereksiz yere girmeyin. Soruyu yanıtlamak için bu bilgi şart değilse çıkarın ya da genel bir ifadeyle değiştirin.
- Amacı ve sınırı açıkça yazın. Yapay zekâdan ne istediğinizi belirtin; örneğin “Bu metni daha anlaşılır hâle getir, yeni bilgi ekleme ve belirsiz yerleri işaretle” gibi bir istem kullanın. Böylece modelin görevi aşarak varsayım üretme olasılığını azaltırsınız.
- Çıktıyı ilk taslak olarak değerlendirin. Akıcı, kendinden emin veya ayrıntılı bir yanıt doğru olduğu anlamına gelmez. Özellikle sağlık, hukuk, finans, güvenlik, eğitim ve iş kararlarında önemli iddiaları güvenilir ve bağımsız kaynaklardan kontrol edin.
- Önyargı ve eksik temsil arayın. Yanıt belirli bir cinsiyet, yaş, dil, kültür, engellilik durumu veya gruba ilişkin genellemeler yapıyorsa bunun kanıt mı, yoksa varsayım mı olduğunu sorgulayın. Gerekirse aynı soruyu farklı ifadelerle sorup sonuçların değişip değişmediğini karşılaştırın.
- Etkilenen kişileri hesaba katın. Çıktı yalnız sizi değil, bir çalışanı, müşteriyi, öğrenciyi veya başka bir kişiyi etkiliyorsa bu kişinin itiraz etme, açıklama isteme ve insan değerlendirmesine başvurma imkânı bulunmalıdır. Yapay zekâ önerisini tek başına nihai karar yapmayın.
- Son kullanım amacını kontrol edin. Metni yayımlamadan, göndermeden, kodu çalıştırmadan veya bir başvuruya eklemeden önce doğruluk, kaynak gösterimi, telif, gizlilik ve güvenlik açısından son incelemeyi kendiniz yapın.
Aynı yanıt neden herkese uygun olmayabilir?
Etik değerlendirme, yalnızca “Yanıt doğru mu?” sorusundan ibaret değildir. Yanıt doğru olsa bile gizli veri kullanılarak üretilmiş, bir grubu haksız biçimde dışlamış veya kararın nedenini açıklamayı imkânsız hâle getirmiş olabilir. Bu nedenle günlük kullanımda şu ayrımı koruyun:
| Kontrol | Olumlu işaret | Yetersiz kalan durum |
|---|---|---|
| Gizlilik | Gereksiz kişisel veri paylaşılmıyor. | Veri anonimleştirilmiş görünse bile yeniden tanımlanabiliyorsa risk sürer. |
| Doğruluk | Önemli iddialar bağımsız kaynaklarla karşılaştırılıyor. | Akıcı anlatım veya kaynak adı tek başına doğruluk kanıtı değildir. |
| Adalet | Farklı kişiler ve gruplar için sonuçlar inceleniyor. | Tek bir örnekte sorun görülmemesi sistemin adil olduğunu kanıtlamaz. |
| İnsan denetimi | Son kararı yetkili bir insan veriyor. | İnsan yalnızca otomatik sonucu onaylıyorsa gerçek denetim oluşmayabilir. |
Somut bir kullanım örneği
Bir iş e-postasını daha nazik hâle getirmek istediğinizi varsayalım. Gerçek kişi adlarını, müşteri bilgilerini ve şirket içi ayrıntıları doğrudan vermek yerine şu tür bir istem yazabilirsiniz: “Aşağıdaki taslağı daha açık ve saygılı bir e-postaya dönüştür. Yeni bilgi ekleme, suçlayıcı ifadeleri yumuşat ve eksik kalan noktaları ayrıca belirt.”
Yapay zekânın çıktısı daha yumuşak bir metin olabilir; ancak bu, metnin olayları doğru aktardığını veya hukuki ve kurumsal açıdan uygun olduğunu göstermez. Göndermeden önce tarihleri, sorumlulukları, taahhütleri ve alıcının yanlış anlayabileceği ifadeleri kontrol edin. Çıktı önemli bir iddia ekliyorsa bu eklemeyi kaldırın ya da ayrıca doğrulayın.
Ne zaman kullanımı durdurmalısınız?
Sistem kişisel veriyi gereksiz biçimde istemeye devam ediyorsa, yanıtlar önemli ölçüde çelişiyorsa, kaynağı doğrulanamayan kesin hükümler veriyorsa veya çıktının bir kişiye ciddi zarar verme ihtimali varsa işlemi durdurun. Daha az veriyle yeniden deneyin, amacı daraltın ve son kararı yapay zekâya bırakmayın. Kontrol edemediğiniz bir çıktıyı yayımlamak, çalıştırmak ya da bir kişi hakkında karar vermek yerine güvenilir bir insan uzmanından değerlendirme alın.
Etik kullanımın pratik ölçütü şudur: Veriyi gereksiz yere açığa çıkarmıyor, yanıtı doğruluyor, olası önyargıyı sorguluyor ve sorumluluğu yapay zekâya devretmiyorsanız daha bilinçli bir kullanım yapıyorsunuz.
