Claude ndëshkon përdoruesit që e keqtrajtojnë!
Monday 2 November 2026, 09:09
Dritare.net
Kompania Anthropic ka ashpërsuar politikën e përdorimit të inteligjencës artificiale Claude, duke paralajmëruar masa ndaj përdoruesve që përfshihen në sjellje të vazhdueshme, abuzive dhe mizore ndaj modeleve të saj. Në rastet më ekstreme, shkelësit mund të përballen edhe me përjashtim të përhershëm nga shërbimet e kompanisë.
Rregulli i ri ka hapur një debat në industrinë e teknologjisë, mes atyre që e konsiderojnë masën të tepruar dhe ekspertëve që argumentojnë se mënyra se si njerëzit ndërveprojnë me inteligjencën artificiale mund të ndikojë në sjelljen dhe rezultatet e saj.
Sipas Anthropic, masa nuk synon përdoruesit që shprehin frustrim, japin kritika të drejtpërdrejta apo testojnë sistemin për qëllime kërkimore. Qëllimi është të kufizohen sjelljet e përsëritura abuzive, ndërsa në shumicën e rasteve Claude mund të ndërpresë vetë bisedën.
Ekspertët theksojnë se toni dhe mënyra e formulimit të kërkesave mund të ndikojnë në përgjigjet e inteligjencës artificiale. Megjithatë, kjo nuk do të thotë se modelet përjetojnë emocione si njerëzit. Sipas studiuesve, ato mund të reagojnë ndaj gjuhës emocionale duke ndryshuar mënyrën se si gjenerojnë përgjigjet.
Një tjetër shqetësim lidhet me sigurinë. Sjellja abuzive ndaj chatbot-eve mund të shoqërohet me përpjekje për të anashkaluar kufizimet e tyre dhe për t'i nxitur të prodhojnë përgjigje të rrezikshme. Nga ana tjetër, studiuesit nuk kanë arritur ende në një përfundim të qartë mbi ndikimin e drejtpërdrejtë të tonit të përdoruesit në performancën e modeleve.
Anthropic ka studiuar gjithashtu se si simulimi i gjendjeve emocionale ndikon në sjelljen e inteligjencës artificiale. Sipas kompanisë, në testet me Claude Sonnet 4.5, simulimi i dëshpërimit mund të rriste prirjen e modelit për të ndërmarrë veprime të papërshtatshme, përfshirë mashtrimin ose shantazhin në situata të caktuara, ndërsa një gjendje më e qetë e simulimit i reduktonte këto sjellje.
Debatit i është bashkuar edhe Elon Musk, i cili e ka mbështetur vendimin e Anthropic, duke argumentuar se mizoria ndaj diçkaje që besohet se mund të përjetojë dhimbje nuk është e pranueshme.
Megjithatë, pyetja nëse inteligjenca artificiale mund të ketë ndjenja apo përjetime subjektive mbetet e hapur. Politika e re e Anthropic nuk përbën provë se Claude është i vetëdijshëm, por pasqyron një qasje parandaluese ndaj rreziqeve të mundshme dhe ndikimit që ndërveprimi me këto sisteme mund të ketë në sjelljen njerëzore./dritare.net
