Yapay Zeka İlkeleri

Amaç: Yapay zekânın bireylerin ve kurumların hayatını temelden dönüştürecek potansiyele sahip olduğu öngörülmektedir. Yapay zekâ teknolojisine dayalı tasarım, geliştirme süreçleri ve uygulamaları yakın gelecekte eğitim kurumlarında yaygın bir teknolojik öge olarak da yer alacaktır. Diğer teknoloji uygulamalarında olduğu gibi yapay zekâ uygulamalarında da dikkat edilmesi gereken temel prensiplerin belirlenmesi önemli bir husustur. Özellikle bireylere ait geçmiş veri kümelerine gereksinim duyan yapay zekâ söz konusu olduğunda bu husus daha da büyük bir önem arz etmektedir. Bu çalışma, yapay zekâ teknolojilerine yatırım yapma ve onlardan istifade etme sürecinin başında olan eğitim kurumlarının, bu alandaki temel prensiplerini belirlemede yol gösterici olması amacıyla hazırlanmıştır. Her eğitim kurumu bu belgede önerilen ilkeleri benimseyebilir ya da bunları baz alarak kendi temel prensiplerini geliştirebilir.

Bu Belge Kimler için Yazılmıştır: Bu belge yapay zekâ teknolojilerini tasarlamayı, geliştirmeyi veya kullanmayı amaçlayan eğitim kurumları için yazılmıştır.

Bu Belge Nasıl Okunmalıdır: Bu belgede önerilen temel ilkeleri benimseyen bir kurum, yapay zekâ teknolojilerine yönelik tasarım, geliştirme ya da kullanıma yönelik süreçlerinin bu ilkelerle çelişmemesine özen gösterir. İlgili bireyler (eğitim kurumunun öğrencileri, öğretmenleri, çalışanları) kurum bir yapay zekâ uygulamasını tasarlamaya, geliştirmeye ya da kullanmaya karar verdiğinde, kurumun kabul etmiş olduğu ilkelerle uyumluluğunu temin etmiş olduğuna güvenerek o uygulamaya yaklaşacaktır. Bu çerçevede, kurumun bu uyumluluk sürecinden geçirmeden bir uygulamayı hayata geçirmemesi beklenir. Kurum, ayrıca, kullanmakta olduğu yapay zekâ uygulamalarının kabul etmiş olduğu ilkelerle uyumsuzluk oluşturmadığını düzenli aralıklarla kontrol eder.

Bu Belge Nasıl Kullanılmalıdır: Eğitim kurumu, belgedeki ilkeleri olduğu gibi kabul edebilir veya kendi dinamiklerine göre değiştirebilir. Bu süreç, öğrenci, öğretmen ve okul çalışanları temsilcilerinin dahil olacağı bir değerlendirme çalışması sonucunda netleştirilir. Nihai belge eğitim kurumunun yönetimine sunularak onaylanır. Eğitim kurumu yönetimi nihai belgeyi onaylarken, bunun gelecekteki tüm yapay zeka kullanımına yönelik değişmez ilkeler olduğunu bilir ve ona göre değerlendirir. Eğitim kurumu, gelişecek ve değişecek gereksinimler çerçevesinde kabul ettiği ilkeler belgesini düzenli olarak gözden geçirir ve gerekli değişiklikleri yapar. Onaylanan belge eğitim kurumunun tüm paydaşları ile paylaşılır.

Yapay Zeka teknolojilerinin okullarda tasarım ve uygulama aşamalarında aşağıdaki ilkelere bağlı kalınır.

1. Mahremiyet İlkesi: Bireylerin mahremiyetine saygı duyulur.
2. Bilinçlendirme İlkesi: Yapay zekânın geliştirilmesi ve kullanılmasında ilgili bireyler bilgilendirilerek rızaları alınır; bilinçlenmeleri sağlanır.
3. Kapsayıcılık İlkesi: Yapay zekânın tasarım ve geliştirilmesinde veri kümelerinin çeşitliliğine, ilgili bireylerin ihtiyaçlarına saygı gözetilir.
4. Kişiselleştirme İlkesi: Yapay zekâ çalışmaları, öğrencilere kişiselleştirilmiş öğrenme ve yaşam deneyimi sunar.
5. Şeffaflık İlkesi: Yapay zekânın geliştirilmesi ve kullanılması amacıyla toplanacak veri kümelerinin nasıl kullanılacağı ve sonuçları veri sahiplerinin erişimine açıktır.
6. Nesnellik İlkesi: Yapay zekânın önyargısız, nesnel sonuçlar üretmeye katkıda bulunması beklenir.
7. İyi Oluş İlkesi: Yapay zekâ, bireylerin psikolojik ve fiziksel iyi oluşuna katkıda bulunur.
8. Sürdürülebilirlik İlkesi: Yapay zekâ tasarım ve uygulamaları, doğal yaşama ve sürdürülebilir gelişime katkıda bulunur.

1. Mahremiyet İlkesi Hakkında: Yapay zekâ uygulamaları kişisel veri kümelerini de baz aldığından, bireylerin kişisel verisinin kullanılması gereken durumlarda, bireyin kimliğinin ve mahremiyetinin ortaya çıkmamasına özen gösterilir, gerekiyorsa bu tür veri kümeleri anonimleştirilir. Doğrudan bireyin gelişimine yönelik yapay zekâ uygulamaları söz konusu olduğunda (örneğin kişiselleştirilmiş eğitim uygulamaları) veri kümesinin diğer bireylerin erişimine kapalı olmasına özen gösterilir.

2. Bilinçlendirme İlkesi Hakkında: Yapay zekâ uygulamalarında kullanılacak veri kümelerinin sahipleri konu hakkında bilgilendirilir ve gerekli durumlarda rızası alınır. Ayrıca, yapay zekâ teknolojisinin ne olduğu, bu teknolojiye göre geliştirilmiş uygulamalarının doğru kullanılmasının nasıl olacağı gibi konularda öğrenciler, veliler, öğretmenler ve personel için eğitim etkinlikleri gerçekleştirilir. Bu kapsamda müfredata ilgili içerikler eklenebilir, seçmeli dersler açılabilir, atölye çalışmaları organize edilebilir, seminer ve konferanslar düzenlenebilir.

3. Kapsayıcılık İlkesi Hakkında: Kapsayıcılık, bireyleri ayıran özelliklerden dolayı kendilerini “öteki” hissetmemesini temin etmektir. Bunun yapay zekâ tasarım ve uygulamalarına yansıması, ilgili algoritmaların beslenmesi için kullanılan veri setlerinin heterojen olarak oluşturulmasıdır. Örneğin yüz tanımaya yönelik bir yapay zeka kullanımı söz konusu olduğunda, bu yapay zekanın ten rengi, cinsiyet gibi bireysel özelliklere karşı duyarlı olduğu teyit edilir. Buna ek olarak yapay zekâ uygulamaları, kurum içi çeşitliliğin ve dayanışmanın güçlenmesine yardımcı olur.

4. Kişiselleştirme İlkesi Hakkında: Yapay zekâ tasarım ve uygulamaları kurumun öğrencilerine kişiselleştirilmiş eğitim ve deneyimler sunar. Bu kapsamda kurum, mümkünse kendi öğrenci veri kümelerini kullanır. Elinde geriye dönük öğrenci verisi olmayan kurumlar bunun yerine genel veri kümeleri kullanılarak geliştirilmiş yapay zekâ uygulamalarını kullanabilir. Genel veri kullanan kurumlar, zaman içinde kendi öğrencilerinin verisini yapay zekâya yansıtarak, onu yerelleştirmelidir. Kişiselleştirilmiş eğitim kavramına örnekler: Proje/ev ödevi içeriği belirleme, seçmeli derse karar verme, okuldaki yaşam koşullarının geliştirilmesi.

5. Şeffaflık İlkesi Hakkında: Yapay zekâ projelerinde veri kümelerinin nasıl ve hangi amaçla kullanılacağı, veri sahiplerine doğru, açık ve karşılaştırılabilir şekilde anlatılır ve talep etmeleri halinde kullanılan veri kendileriyle paylaşılır.

6. Nesnellik İlkesi Hakkında: Günümüzde yapay zekâ ile ilgili en önemli sorunlardan birisi önyargıdır. Yapay zekâ algoritmalarını besleyen veri kümeleri ne kadar heterojen olursa algoritma çıktıları da o denli nesnel olur. Yapay zekâ algoritmaları kendi içinde önyargı barındırmaz. O nedenle yapay zekânın ortaya çıkaracağı önyargıların, kurumun o konuyla ilgili çalışma modeline yönelik olduğu unutulmamalıdır. Bir yapay zekâ uygulaması tasarlanırken ya da geliştirilirken kullanılacak veri kümesi kurumun geriye dönük verileri olsa bile çıktılarındaki olası önyargı boyutu analiz edilir ve önyargı içeren bir durum tespit edilirse bu çözüme kavuşturulacak bir problem olarak ele alınır.

7. İyi Oluş İlkesi Hakkında: Yapay Zekâ uygulamaları bireylerin yaşam, sağlık ve çalışma koşullarını iyileştirir. Yapay Zekâ bireylerin zihinsel ve fiziksel yetkinliklerini daha az kullanmalarına sebep olmaz. Okulda yaratılan dijital ortam, bireylerin stresini ve kaygısını arttırmaz, bireylere özel alanlarına müdahale edildiği hissi vermez.

8. Sürdürülebilirlik İlkesi Hakkında: Kurum bünyesinde geliştirilecek yapay zekâ tasarım ya da uygulamaları doğaya zarar vermez. Doğal yaşamın sürdürülebilirliğine katkıda bulunan uygulamalar tercih edilir. Yapay zekâ alt yapıları enerjiyi verimli kullanmayı hedefler.