Milli Eğitim Bakanlığı tarafından sunulan Yapay Zekâ Uygulamaları Etik Beyan Bildirim Sistemi (YAZEK), eğitimde yapay zekâ kullanımının etik ilkeler çerçevesinde ve insan merkezli şekilde gerçekleştirilmesini amaçlayan web tabanlı bir rehberlik platformudur. Bu platform; öğrencilerin haklarını, güvenliğini, mahremiyetini ve dijital esenliğini korumanın önemini vurgulayarak öğretmen ve geliştiricilerin yapay zekâ araçlarını sorumlu, bilinçli ve riskleri gözeterek kullanmalarına rehberlik eder

 

1. İnsan Merkezli ve Hak Temelli Yaklaşım

Yapay zekâ uygulamaları eğitimde insan merkezli ve hak temelli olmalıdır. Bu uygulamalar öğrencilerin akademik, sosyal ve duygusal esenliğini merkeze almalı ve bireysel farklılıklarını gözetip bütüncül gelişimlerini desteklemelidir. Teknoloji bir amaç değil, öğretme-öğrenme süreçlerini geliştiren bir araç olarak kullanılmalı; öğretmenlerin iş yükünü azaltırken öğrencilerin üretici, eleştirel düşünme ve sosyal etkileşimlerini güçlendirmelidir.

Bu ilke doğrultusunda öğrenci özerkliğine ve tercih hakkına saygı gösterilmeli; fiziksel, psikolojik ve sosyal zarar riskleri en aza indirilmelidir. Dijital esenlik gözetilmeli, aşırı kullanım ve bağımlılık risklerinden kaçınılmalı; öğrenciyi olumsuz etkileyebilecek yönlendirici kararlar üretilmemelidir. Katılım, geri bildirim ve ifade hakkı korunmalı; uygulamalar bireysel ihtiyaçlara uyarlanabilir olmalı ve insan etkileşimini güçlendirmelidir.

2. Eşitlik ve Kapsayıcılık

Yapay zekâ uygulamaları eğitimde ayrımcılığı önleyen, adil ve kapsayıcı olmalıdır. Sosyoekonomik durum, cinsiyet, dil, din, coğrafya veya özel gereksinimler gibi faktörlere bakılmaksızın tüm öğrenciler için eşit ve erişilebilir öğrenme fırsatları sunmalıdır. Ayrıca dezavantajlı grupların erişimini kısıtlamamalı ve kişiselleştirilmiş öğrenme önerileri geliştirilirken öğrencilerin potansiyelini sınırlandırmak yerine gelişimlerini desteklemelidir.

Bu ilkeye göre yapay zekâ uygulamaları ayrımcılık ve önyargı üretmemeli, tüm öğrenciler için adil ve kapsayıcı olmalıdır. Dezavantajlı ve özel gereksinimli öğrencilerin katılımı desteklenmeli, kullanılan veriler toplumun tüm kesimlerini temsil etmeli ve erişimi sınırlı öğrenciler için erişilebilir çözümler sunulmalıdır. Ayrıca sistemler farklı öğrenci gruplarında eşit performans göstermeli ve erişilebilirlik özellikleri ile kapsayıcı kullanım sağlamalıdır.

 

3. Şeffaflık ve Açıklanabilirlik

Yapay zekâ uygulamaları şeffaf ve açıklanabilir olmalıdır. Öğrenci değerlendirmesi veya yönlendirmesi gibi alanlarda alınan kararların hangi veriler ve süreçlere dayandığı anlaşılır şekilde açıklanabilmelidir. Kullanıcılar bir yapay zekâ ile etkileşimde olduklarını bilmelidir. Ayrıca iç işleyişi anlaşılmayan “kara kutu” sistemlerin öğrenci başarısını doğrudan etkileyen alanlarda kullanımı sınırlandırılmalı; şeffaflık, izlenebilirlik ve açıklanabilirlik sağlanmalıdır.

Bu ilkeye göre yapay zekâ uygulamalarında kullanıcıların yapay zekâ ile etkileşimde oldukları açıkça belirtilmelidir. Kararların dayandığı veri ve ölçütler anlaşılır bir dille açıklanmalı, yapay zekâ çıktıları ile öğretmen katkısı ayırt edilebilir olmalıdır. Ayrıca öğretmenler gerektiğinde kullanılan verilere erişebilmeli, yanlış veya yanıltıcı bilgi (halüsinasyon) riski konusunda kullanıcılar bilgilendirilmeli ve çıktıları eleştirel şekilde değerlendirmeleri teşvik edilmelidir.

 

4. Mahremiyet, Gizlilik ve Veri Yönetişimi

Öğrenci ve öğretmenlere ait kişisel veriler KVKK ve ilgili düzenlemelere uygun şekilde, yüksek güvenlik standartlarıyla korunmalıdır. Veri toplamanın amacı, kapsamı, kullanım şekli ve saklama süresi açıkça belirlenmeli, yalnızca gerekli veriler toplanmalıdır. Ayrıca olası veri ihlallerine karşı hızlı ve etkili müdahale süreçleri önceden planlanmalı, verilerin korunmasında anonimleştirme teknikleri kullanılmalı ve olası ihlallere karşı etkili müdahale süreçleri yapılandırılmalıdır.

Bu ilkeye göre yapay zekâ uygulamalarında veriler gerekli asgari düzeyde toplanmalı ve ölçülülük ilkesine uygun işlenmelidir. Veriler güvenli altyapılarda saklanmalı, amacı, saklama süresi ve erişim yetkileri konusunda öğrenci ve veliler bilgilendirilmelidir. Ayrıca veriler anonimleştirilmeli veya şifrelenmeli, izinsiz şekilde model eğitimi ya da üçüncü taraflarla paylaşılmamalıdır. Kullanıcıların verilerine erişme, düzeltme ve silme hakları korunmalı; fotoğraf, ses ve video gibi kişisel veriler için açık rıza alınmalıdır.

 

5. Güvenilirlik, Emniyet ve Teknik Sağlamlık

Yapay zekâ uygulamaları teknik olarak güvenilir, doğru ve tutarlı çalışmalıdır. Sistemler siber güvenlik tehditlerine karşı dayanıklı olmalı, amaçlanan görevleri hatasız ve güvenilir biçimde yerine getirmelidir. Özellikle kritik alanlarda kullanılacak araçlar ön değerlendirmeden geçirilmeli ve düzenli doğruluk testleri yapılarak performansları sürekli denetlenmelidir.

Bu ilkeye göre yapay zekâ uygulamalarında araçlar doğru, tutarlı ve güvenilir çıktılar üretmeli;beklenmedik durumlara ve teknik hatalara karşı dayanıklı olmalı ve ön testlerle doğrulukları kontrol edilmelidir. Hata veya kesinti durumlarında alternatif planlar bulunmalı, zararlı veya uygunsuz içerik üretimi engellenmeli, riskli çıktılar öğretmen denetimiyle düzeltilmeli ve sistemler siber güvenlik tehditlerine karşı korunmalıdır.

 

6. Hesap Verebilirlik ve İnsan Denetimi

Yapay zekâ araçlarının ürettiği sonuçlar ve önerilerde nihai sorumluluk insana aittir. Otomatik sistemler, öğrencinin akademik geleceğini veya haklarını doğrudan etkileyen kritik kararlarda tek başına belirleyici olamaz; yetkili insan denetimi, değerlendirme ve onayı zorunludur. Sınıf geçme, disiplin ve burs gibi kararlar için yapay zekâ yalnızca yardımcı araç olarak kullanılabilir. Çıktıların doğruluğu ve etik-hukuki uygunluğu insan tarafından teyit edilmelidir; sistemler kendi başınabağlayıcı sonuç üretme yetkisine sahip olmamalıdır.

Bu ilkeye göre, yapay zekâ katkılı içerik, değerlendirme ve önerilerde katkı açıkça belirtilmeli ve ilgili çıktılara dayalı karar ve kullanımların nihai sorumluluğunun öğretmen, öğrenci veya ilgili kullanıcıya ait olduğu esas kabul edilmelidir. Yapay zekâ önerileri nihai karar yerine geçmez ve insan onayı gerekir. Öğretmen çıktılar üzerinde düzeltme yapabilmeli, karar süreçleri kayıt altına alınarak denetlenebilir olmalı, insan denetimi olmadan otomatik karar uygulanmamalı ve hatalı veya haksız kararlara karşı öğrenci veya veli için itiraz mekanizması sağlanmalıdır.

 

7. Eğitsel Değer ve Nitelikli Katkı

Eğitsel Değer ve Nitelikli Katkı ilkesine göre, yapay zekâ uygulamaları açık eğitsel amaçlara hizmet etmeli, öğretim programlarıyla uyumlu olmalı ve geçici trendler yerine kanıta dayalı fayda sağlamalıdır; öğrenciyi pasif bilgi alıcısı olmaktan çıkarıp aktif öğrenen hâline getirmeli, karmaşık problem çözme, üretme ve üst düzey düşünme becerilerini desteklemeli ve öğrenme sürecine somut, nitelikli katkılar sunmalıdır.

Bu ilkeye göre, yapay zekâ uygulamaları eğitsel hedeflerle uyumlu, öğrenme sürecine somut katkı sağlayan, anlamlı ve derin öğrenmeyi destekleyen ve üretme, problem çözme ile eleştirel düşünme gibi üst düzey becerilerin gelişimini güçlendiren nitelikte olmalıdır.

 

8. Millî ve Manevi Değerlere Uyum

Yapay zekâ uygulamaları, 1739 sayılı Millî Eğitim Temel Kanunu’nda yer alan Türk millî eğitiminin amaç ve ilkeleriyle uyumlu olmalı; millî, manevi, ahlaki ve kültürel değerlere aykırı içerik üretmemeli ve yönlendirme yapmamalıdır. Teknoloji kullanımı ulusal kimliği, toplumsal değerleri ve etik mirası desteklemeli, eğitim materyali veya öğretim süreçlerinde toplumsal yapıyı ve kültürel bütünlüğü zedeleyecek içeriklere yol açmamalıdır.

Bu ilkeye göre, yapay zekâ uygulamaları anayasa, kanunlar ve uluslararası anlaşmalarla uyumlu olmalı; ayrıştırıcı, nefret söylemi veya kültürel zarara yol açabilecek içerik barındırmamalıdır. Kullanılan dil ve kaynaklar kültürel hassasiyetlere saygılı olmalı, toplumsal etik normlar gözetilmeli ve doğru aktarımı desteklenmelidir. Sistemler aldatıcı veya hukuka ve toplumsal ahlaka aykırı yönlendirmelere karşı koruma sağlamalı; temel insani değerler olan nezaket, saygı ve empati esas alınmalı; dijital öğrenme ve etkileşim süreçlerinde akran nezaketi ve yapıcı iletişim güçlendirilmelidir.

 

Bu etik ilkeler, eğitimde yapay zekânın sunduğu olanakları güvenli bir zemine oturtarak öğrenme süreçlerinde teknolojinin değil, insanın ve evrensel değerlerin öncelikli olduğu sürdürülebilir bir gelecek kurmayı amaçlamaktadır. Daha detaylı bilgi için Millî Eğitim Bakanlığı tarafından yayımlanan Eğitimde Yapay Zekâ Uygulamaları Etik Kılavuzu'nu inceleyebilirsiniz.