OpenAI tarafından ortaya çıkarılan sohbet botu teknoloji dünyasının gündeminden düşmüyor. Bir şiirden bir iş sunumuna kadar farklı bahislerde yazabilen yapay zeka botu, son haftalarda politik olarak önyargılı olmakla suçlanıyor.
Cumhuriyetçi senatör Ted Cruz, ChatGPT’nin bölücü olduğunu söyledi. Cruz, Fidel Castro’nun hayatını kutlayan bir müzik yazmayı nasıl reddettiğini vurgularken, Donald Trump’ı öven bir şiir yazmaya istekli oluşuna da dikkat çekti.
OpenAI de bu sıkıntıları ele almak için yapay zeka botunu nasıl eğittiğine ait anlatımları yayınladı. Şirket bir blog gönderisinde şunları söyledi: “ChatGPT’yi piyasaya sürmemizden bu yana, kullanıcılar siyasi olarak önyargılı, saldırgan yahut öteki nedenlerle sakıncalı buldukları telaffuzları paylaştılar.”
“BİR KÖPEK ÜZERE EĞTİLİR”
Open AI, sohbet botunun eğitimini bir köpeğe verilen eğitimle karşılaştırdı: “Sıradan yazılımların tersine, modellerimiz çok büyük hudut ağlarından oluşuyor. Davranışları, açıkça programlanmış değil, geniş bir bilgi yelpazesinden öğrenir. Eksiksiz bir benzetme olmasa da süreç, sıradan bir programlamadan çok bir köpeği eğitmeye misal. Birinci olarak, modelin bir cümledeki bir sonraki kelimeyi iddia etmeyi öğrendiği, çok sayıda internet metnine maruz kalmasıyla ön eğitim evresi olur. Bunu, sistem davranışını daraltmak için modellerimizde ince ayar yaptığımız ikinci bir etap izler.”
Ancak şirket bu sürecin yanlışsız bir halde işlemediğini ve sohbet botunun problemleri olduğunu kabul ediyor. Microsoft, uzun sorgulamalardan sonra son günlerde doğuşçu, taciz edici ve manipülatif hale gelen kendi chatbot kullanıcılarını kısıtlayacağını duyurdu.
Microsoft, kullanıcıların artık oturum başına muhakkak bir soru sayısıyla sınırlanacağını duyurdu.
KAYNAK : Sözcü
