Character.ai do t'u ndalojë adoleshentëve të flasin me chatbot-et e saj të inteligjencës artificiale!
E Mërkurë 29 Tetor 2025, 21:09
Dritare.net
Faqja e internetit e chatbot-eve Character.ai po i ndalon adoleshentët të zhvillojnë biseda me personazhe virtualë, pasi u përball me kritika të ashpra për llojet e ndërveprimeve që të rinjtë kishin me shokët e tyre online.
Platforma e themeluar në vitin 2021, përdoret nga miliona njerëz për të komunikuar me chatbot-e të mundësuar nga inteligjenca artificiale (IA). Por po përballet me disa padi në SHBA nga prindërit, përfshirë një për vdekjen e një adoleshenti, me disa që e cilësojnë atë një rrezik të qartë për të rinjtë.
Tani, Character.ai thotë se nga 25 nëntori, personat nën 18 vjeç do të jenë në gjendje të gjenerojnë përmbajtje të tilla si video me miqtë, në vend që të flasin me ta siç mund të bëjnë aktualisht. Aktivistët e sigurisë online e kanë mirëpritur këtë veprim, por thanë se kjo veçori nuk duhej t’u kishte qenë kurrë e disponueshme fëmijëve që në fillim.
Character.ai tha se po bënte ndryshimet pas raporteve dhe reagimeve nga rregullatorët, ekspertët e sigurisë dhe prindërit, të cilat kanë nxjerrë në pah shqetësimet në lidhje me ndërveprimet e chatbot-eve të saj me adoleshentët. Ekspertët kanë paralajmëruar më parë për potencialin që chatbot-et e inteligjencës artificiale të shpikin gjëra, të jenë tepër inkurajues dhe të shtiren si empati, gjë që mund të paraqesë rreziqe për të rinjtë dhe njerëzit vulnerabël.
“Njoftimi i sotëm është një vazhdim i bindjes sonë të përgjithshme se duhet të vazhdojmë të ndërtojmë platformën më të sigurt të inteligjencës artificiale”, tha për BBC News shefi i Character.ai, Karandeep Anand.
Grupi i sigurisë online Internet Matters e mirëpriti njoftimin, por tha se masat e sigurisë duhej të ishin përfshirë që në fillim.
“Hulumtimi ynë tregon se fëmijët janë të ekspozuar ndaj përmbajtjes së dëmshme dhe vihen në rrezik kur angazhohen me inteligjencën artificiale, duke përfshirë edhe chatbot-et e inteligjencës artificiale”, tha ajo.
Character.ai është kritikuar në të kaluarën për mbajtjen e chatbot-eve potencialisht të dëmshëm ose ofendues me të cilët fëmijët mund të flasin. Avatarët që imitonin adoleshentet britanike Brianna Ghey, e cila u vra në vitin 2023, dhe Molly Russell, e cila i mori jetën vetes në moshën 14 vjeç pasi pa materiale vetëvrasëse në internet, u zbuluan në faqe në vitin 2024 përpara se të hiqeshin.
Më vonë, në vitin 2025, Byroja e Gazetarisë Investigative (TBIJ) gjeti një chatbot të bazuar në pedofilin Jeffrey Epstein, i cili kishte regjistruar më shumë se 3,000 biseda me përdoruesit./dritare.net
