Avrupa Komisyonu’nun Araştırmalarda Üretken Yapay Zekanın (Generative AI [GenAI]) Sorumlu Kullanımına İlişkin Yönergesi

Yapay zeka, bilimsel çalışmaları daha verimli hale getiriyor ve keşifleri hızlandırıyor. Üretken yapay zeka araçları metin, resim ve kod üretiminde hız ve kolaylık sunarken;araştırmacıların aynı zamanda intihal, hassas bilgilerin açığa çıkarılması veya modellerdeki doğal önyargılar gibi teknolojinin sınırlamalarına da dikkat etmesi gerekiyor.

Avrupa Komisyonu, Avrupa Araştırma Alanı ülkeleri ve paydaşlarıyla birlikte, Avrupa araştırma topluluğunun üretken yapay zekayı (AI) sorumlu bir şekilde kullanmasını desteklemek için bir dizi yönerge ortaya koydu.

Bu yönergeler araştırma bütünlüğü ilkelerine dayanarak, Avrupa çapında tutarlı bir yaklaşım sağlamak için araştırmacılara, araştırma kuruluşlarına ve araştırma fon sağlayıcılarına rehberlik ediyor. Yeni yönergeleri çerçeveleyen ilkeler, Avrupa Araştırma dürüstlüğü davranış kuralları ve güvenilir yapay zekaya ilişkin yönergeler gibi mevcut çerçevelere dayanmaktadır.

Yönergede öne çıkan maddeler:

• Araştırmacılar, yapay zeka araçları tarafından veya bu araçların desteğiyle oluşturulmuş olan içeriklerin bütününden sorumludur.

• Araştırmacılar, üretici yapay zeka tarafından üretilen çıktıları kullanırken eleştirel bir yaklaşım sergilemek ve araçların halüsinasyon gibi sınırlamalarının farkında olmalıdırlar.

• Yazarlık, eylem ve sorumluluk anlamına gelir, bu nedenle yapay zeka sistemleri ne yazar ne de ortak yazardır. Bu nedenle yazarlık yalnızca insan araştırmacılara aittir.

• Araştırmacılar; bilimsel süreçte, örneğin orijinal araştırma verilerini tahrif etmek, değiştirmek veya manipüle etmek gibi, üretken yapay zeka tarafından oluşturulan uydurma materyalleri kullanmazlar.

• Araştırmacılar, şeffaf olmak adına, hangi üretken yapay zeka araçlarının kullanıldığını ayrıntılı olarak açıklamalıdır. Araca yapılan atıflarda aracın adını, sürümünü, tarihini vb. ve nasıl kullanıldığını ve araştırma sürecini nasıl etkilediğini içerebilir. İlgili olması halinde araştırmacılar, açık bilim ilkeleri doğrultusunda girdiyi (istemleri) ve çıktıyı erişilebilir hale getirebilmelidir.

• Araştırmacılar, üretken yapay zeka araçlarının stokastik (rastgele) doğasını, yani aynı girdiden farklı çıktılar üretme eğilimini dikkate almalıdırlar. Araştırmacılar, sonuçlarında ve çıkarımlarında tekrarlanabilirliği ve sağlamlığıhedeflerler.

• Hassas veya korunan bilgileri yapay zeka araçlarıyla paylaşırken gizlilik, mahremiyet ve fikri mülkiyet hakları ile ilgili konulara özellikle dikkat edilmesi gerekir. Araştırmacılar, oluşturulan veya yüklenen girdilerin (metin, veri, istemler, görüntüler vb.) yapay zeka modellerinin eğitimi gibi başka amaçlar için kullanılabileceğinin bilincinde olmalıdır. Bu nedenle, yayınlanmamış veya hassas çalışmaları (kendilerinin veya başkalarının yayınlanmamış çalışmaları gibi), verilerin yeniden kullanılmayacağına dair güvenceler olmadıkça, örneğin gelecekteki dil modellerini eğitmek veya verilerin izlenemez ve doğrulanamaz yeniden kullanımı için çevrimiçi bir yapay zeka sistemine yüklememeye dikkat edilmesi gerekir.

• Araştırmacıların, veri öznesi (birey) izin vermediği ve araştırmacıların kişisel verilerin kullanılacağı açık bir şekilde belirtilmedikçe üçüncü tarafların kişisel verilerini çevrimiçi üretken yapay zeka sistemlerine sağlamamaya özen göstermeleri gerekir. Üretken yapay zeka tarafından üretilen çıktı kişisel veriler içerebilir. Bu durum ortaya çıkarsa, araştırmacılar herhangi bir kişisel veri çıktısını uygun bir şekilde ele almaktan sorumludur ve AB veri koruma kurallarına uyulmalıdır.

• Araştırmacılar, üretken yapay zekadan elde edilen çıktıları kullanırken intihal potansiyeline (metin, kod, görüntü vb.) dikkat eder, başkalarının yazarlığına saygı gösterir ve uygun olan yerlerde onların çalışmalarına atıfta bulunur. 

Asist Hukuk Bürosu

Miraç Ekmen

Kurucu Ortak 

“Bu not, yürürlükteki hukuk uyarınca ve yalnızca bilgilendirme amaçlı olarak hazırlanmıştır. Bu not herhangi bir hukuki görüş içermemektedir.”