OpenAI, Ödevini ChatGPT’ye Yaptıranları Anında Tespit Etmeyi Sağlayacak Bir Araç Geliştiriyor

ChatGPT’nin arkasındaki firma OpenAI’ın, sohbet botuyla oluşturulmuş metinleri anında tespit etmeyi sağlayan bir filigranlama aracı geliştirdiği ortaya çıktı. fakat firmain aracı kullanıma sunma konusunda getirdiği riskler sebebiyle kararsız olduğu da bildirildi.

Üretken yapay zeka modelleri artık inanılmaz seviyelere ulaşmış durumda. Şu anda ChatGPT gibi sohbet botlarına istediğiniz soruyu sorup yanıt alabiliyorsunuz. Ne isterseniz de sizin için saniyeler içinde hazırlıyor. doğal ki bu durumun kötüye kullanıldığı da oluyor. mesele öğrenciler, ödevlerini yapay zekaya yazdırabiliyorlar. Ya da internette yapay zekayla yazılan içerikleri sık sık görebiliyoruz.

Yapay zekayla yazılan metinleri tespit etmeye yarayan birçok araç var. fakat bunların büyük bir çoğunluğu pek güvenilir yanıtlar vermiyor. Bugün The Wall Street Journal tarafından yayımlanan bir rapor ise OpenAI’ın ChatGPT’yle yazılmış şeyleri tespit etmeyi sağlayacak bir şey geliştirdiğini ortaya koyuyor.

OpenAI, ChatGPT ile oluşturulmuş metinleri tespit etmeyi sağlayan aracı kullanıma sunma konusunda kararsız

WSJ’nin raporuna göre firma, ChatGPT’yle yazılmış herhangi bir metni tanımlayabilecek araç geliştirdi. Bir OpenAI sözcüsü ise bu aracın geliştirildiğini TechCrunch’a verilen bir demeçte doğruladı. Bu tarz bir araç, ödevleri yapay zekaya yaptırma gibi durumları anlamada çok işe yarayabilir.

fakat OpenAI bir filigranlama aracı olarak tanımlanan bu teknolojiyi kullanıma sunmadan kararsız. Şirket, aracın ümit verici olduğunu fakat önemli riskleri de beraberinde getirdiğini söylüyor. Kötü amaçlı kişiler tarafından kullanılması ya da İngilizce olmayan dillerde orantısız sonuçlar vermeme ihtimali bu riskler arasında. Yani kullanıma sunulup sunulmayacağı belli değil. Ne olacağını zaman gösterecek.

Peki bu araç nasıl çalışıyor?

Aracı biraz açalım. Gelen bilgilere göre şu anki tespit yöntemlerinden çok daha farklı olacak ve daha iyi sonuçlar verebilecek. Araç, sadece ChatGPT ile oluşturulan metinlerde çalışacak. Yani başka yapay zekalarda çalışmayacak. Modelin seçtiği kelimelerde bazı minik değişiklikler yapacak ve en sonunda onlara “görünmez bir filigran” ekleyecek. Bunun sayesinde de ChatGPT ile oluşturulmuş metinler, farklı araçlar tarafından tespit edilebilecek.

Şirketin bu aracı çıkarıp çıkarmayacağını bilmiyoruz. fakat yapay zekanın iyice yaygınlaştığı ve bu tarz kullanımların arttığını düşündüğümüzde gerçekten doğru sonuçlar veren bir yöntemin çıkması çok yararlı olacaktır.