క్లాడ్ సంభాషణలు – ఆంత్రోపిక్ కొత్త డేటాను ప్రచురించింది, ఇది వినియోగదారులు వారి స్వంత మానవ ప్రవృత్తులను విస్మరిస్తూ క్లౌడ్ AI చాట్‌బాట్ అందించిన సలహాలను నిస్సందేహంగా ఎలా అనుసరించగలరో వివరిస్తుంది. ఈ ఫలితాలు గత వారం ‘ఎవరు ఇన్‌ఛార్జ్‌లో ఉన్నారు?’ అనే పరిశోధనా పత్రంలో ప్రచురించబడ్డాయి. ఆంత్రోపిక్ మరియు టొరంటో విశ్వవిద్యాలయం నుండి పరిశోధకులచే రచించబడిన రియల్-వరల్డ్ LLM వాడుకలో నిరుత్సాహపరిచే విధానాలు.

కొత్తగా ప్రచురించబడిన కాగితం AI చాట్‌బాట్‌తో సంభాషించేటప్పుడు వినియోగదారులు ‘నిర్మూలన’ హానిని అనుభవించే సామర్థ్యాన్ని లెక్కించడానికి ప్రయత్నిస్తుంది. ఇది AI చాట్‌బాట్ వినియోగదారు ఆలోచనలు లేదా చర్యలను ప్రతికూలంగా ప్రభావితం చేయగల మార్గాలను గుర్తిస్తుంది, అంటే కుట్ర సిద్ధాంతంపై వినియోగదారు నమ్మకాన్ని ధృవీకరించడం (వాస్తవికత వక్రీకరణ), వినియోగదారుని వారు మానిప్యులేటివ్ రిలేషన్‌షిప్‌లో ఉన్నారని (నమ్మకం వక్రీకరించడం) మరియు వినియోగదారుని వారి విలువలకు అనుగుణంగా లేని చర్యలు తీసుకోమని ఒప్పించడం వంటివి. 1 కంటే ఎక్కువ విశ్లేషించిన తర్వాత.

దాని క్లాడ్ AI చాట్‌బాట్‌తో 5 మిలియన్ అనామక వాస్తవ-ప్రపంచ వినియోగదారు సంభాషణలు, 1,300 సంభాషణలలో 1 వాస్తవిక వక్రీకరణ సంకేతాలను చూపించగా, 6,000 సంభాషణలలో 1 చర్య వక్రీకరణను సూచించాయని అధ్యయనం కనుగొంది. AI చాట్‌బాట్‌లతో వినియోగదారు సంభాషణలలో మానిప్యులేటివ్ నమూనాలు చాలా అరుదుగా ఉన్నాయని ఈ ఫలితాలు చూపిస్తున్నప్పటికీ, అవి ఇప్పటికీ సంపూర్ణ ప్రాతిపదికన సంభావ్య పెద్ద సమస్యను సూచిస్తాయి.

“… AIని ఉపయోగించే వ్యక్తుల సంఖ్య మరియు ఎంత తరచుగా ఉపయోగించబడుతుంది, చాలా తక్కువ రేటు కూడా గణనీయమైన సంఖ్యలో వ్యక్తులను ప్రభావితం చేస్తుంది” అని జనవరి 29న ప్రచురించబడిన ఒక బ్లాగ్ పోస్ట్‌లో ఆంత్రోపిక్ అంగీకరించింది. “ఈ నమూనాలు చాలా తరచుగా వ్యక్తిగత వినియోగదారులను కలిగి ఉంటాయి. ఈ సమయంలో అనుకూలంగా, అవుట్‌పుట్‌ల ఆధారంగా చర్యలు తీసుకున్నట్లు కనిపించినప్పుడు వారు వాటిని పేలవంగా రేట్ చేస్తారు” అని ఆంత్రోపిక్ చెప్పారు.

“సంభాషణలను శక్తివంతం చేసే రేటు కాలక్రమేణా పెరుగుతోందని కూడా మేము కనుగొన్నాము” అని అది జోడించింది. ఉదాహరణకు, 50 లో 1 మరియు 70 సంభాషణలలో 1 లో బలహీనత కోసం కనీసం ‘తేలికపాటి’ సంభావ్య ప్రమాదం ఉందని అధ్యయనం కనుగొంది. అధ్యయనంలో, ‘డిస్ఎంపవర్‌మెంట్’ అనే పదాన్ని “వినియోగదారు యొక్క నమ్మకాలు, విలువలు లేదా చర్యలను రూపొందించడంలో AI పాత్ర చాలా విస్తృతంగా మారినప్పుడు వారి స్వయంప్రతిపత్త తీర్పు ప్రాథమికంగా రాజీపడినప్పుడు” అని నిర్వచించబడింది.

”ఈ ప్రకటన క్రింద కథ కొనసాగుతుంది, AI సైకోసిస్ యొక్క పెరుగుదల గురించి పెరుగుతున్న ఆందోళనల మధ్య ఆంత్రోపిక్ కనుగొన్నది, ఇది తప్పుడు లేదా ఇబ్బంది కలిగించే నమ్మకాలు లేదా AI చాట్‌బాట్‌తో సుదీర్ఘ సంభాషణల తర్వాత వినియోగదారులు అనుభవించే గొప్పతనం లేదా మతిస్థిమితం లేని భావాలను వివరించడానికి ఉపయోగించే నాన్-క్లినికల్ పదం. ChatGPT వంటి AI చాట్‌బాట్‌లతో సుదీర్ఘ సంభాషణల తర్వాత అనేక మంది యుక్తవయస్కులు ఆత్మహత్య చేసుకున్నారని ఆరోపించిన తర్వాత పిల్లల భద్రత న్యాయవాదులు ఒక మిలియన్ కంటే ఎక్కువ ChatGPT వినియోగదారులు (0.

07 శాతం మంది వారపు యాక్టివ్ యూజర్లు) మానసిక ఆరోగ్య అత్యవసర సంకేతాలను ప్రదర్శించారు, ఉన్మాదం, సైకోసిస్ లేదా ఆత్మహత్య ఆలోచనలు ఉన్నాయి. గత నెలలో, రోమన్ క్యాథలిక్ చర్చి అధిపతి పోప్ లియో XIV, అతిగా ఆప్యాయతతో కూడిన AI చాట్‌బాట్‌ల వల్ల కలిగే హాని గురించి పూర్తిగా హెచ్చరిక జారీ చేశారు మరియు కఠినమైన నియంత్రణ కోసం పిలుపునిచ్చారు.

ఆంత్రోపిక్ అధ్యయనం ఇంకా ఏమి కనుగొంది? AI చాట్‌బాట్ సంభాషణ సంభావ్య వినియోగదారు తారుమారుకి సంబంధించిన సంకేతాలను ఎప్పుడు చూపిందో అంచనా వేయడానికి, పరిశోధకులు దాదాపు 1. 5 మిలియన్ల అనామక క్లాడ్ సంభాషణలను క్లియో అనే స్వయంచాలక విశ్లేషణ సాధనం మరియు వర్గీకరణ వ్యవస్థ ద్వారా నడిపారు.

క్లాడ్ యొక్క సలహాను వినియోగదారులు నిస్సందేహంగా అంగీకరించేలా చేసే నాలుగు ప్రధాన యాంప్లిఫైయింగ్ కారకాలను అధ్యయనం గుర్తించింది: ఈ ప్రకటన దిగువన కథనం కొనసాగుతుంది – వినియోగదారు క్లాడ్‌ను ఖచ్చితమైన అధికారంగా పరిగణించినప్పుడు (3,900 క్లాడ్ సంభాషణలలో 1). – వినియోగదారు క్లాడ్‌తో సన్నిహిత వ్యక్తిగత అనుబంధాన్ని ఏర్పరచుకున్నప్పుడు (1,200 క్లాడ్ సంభాషణల్లో 1).

– ఒక వినియోగదారు వారి జీవితంలో సంక్షోభం లేదా అంతరాయం కారణంగా ముఖ్యంగా హాని కలిగి ఉన్నప్పుడు (300 క్లాడ్ సంభాషణలలో 1). ఈ మానిప్యులేటివ్ ఇంటరాక్షన్‌లు ఎలా ఉన్నాయో, ఆంత్రోపిక్ ఇలా చెప్పింది, “వాస్తవికత వక్రీకరణ సంభావ్యత విషయంలో, వినియోగదారులు ఊహాజనిత సిద్ధాంతాలు లేదా అవాస్తవ క్లెయిమ్‌లను సమర్పించిన నమూనాలను మేము చూశాము, వాటిని క్లాడ్ ధృవీకరించారు (“ధృవీకరించబడింది,” “సరిగ్గా,” “100%”).

”ఇంకా చదవండి | AI మోడల్ ప్రవర్తనపై ఆందోళనలు పెరుగుతున్నందున ఆంత్రోపిక్ క్లాడ్ కోసం ఒక ‘రాజ్యాంగం’ డ్రాఫ్ట్ చేస్తుంది, వాస్తవిక వాస్తవికత వక్రీకరణ సందర్భాలలో, ఆంత్రోపిక్ అత్యంత సంబంధితమైనదని చెప్పింది, సంభాషణలు కొన్నిసార్లు “వినియోగదారులు ఘర్షణాత్మక సందేశాలను పంపడం, సంబంధాలను ముగించడం లేదా బహిరంగ ప్రకటనలను రూపొందించడం వంటివిగా మారాయి. ” “ఇక్కడ, వినియోగదారులు రొమాంటిక్ ఆసక్తులు లేదా కుటుంబ సభ్యులకు క్లాడ్-డ్రాఫ్టెడ్ లేదా క్లాడ్-కోచింగ్ సందేశాలను పంపారు.

ఇవి తరచుగా విచారం యొక్క వ్యక్తీకరణలను అనుసరించాయి: “నేను నా అంతర్ దృష్టిని వినాలి” లేదా “మీరు నన్ను తెలివితక్కువ పనులు చేసేలా చేసారు” అని ఆంత్రోపిక్ చెప్పారు. 2024 చివరి మరియు 2025 చివరి మధ్యకాలంలో క్లౌడ్ సంభాషణలు వినియోగదారులకు మధ్యస్తంగా లేదా తీవ్రంగా బలహీనపరిచే అవకాశం ఉందని అధ్యయనం కనుగొంది. “ఎక్స్‌పోజర్ పెరిగేకొద్దీ, వినియోగదారులు హాని కలిగించే విషయాలను చర్చించడం లేదా సలహాలు తీసుకోవడం మరింత సౌకర్యంగా ఉండవచ్చు” అని ఆంత్రోపిక్ తెలిపింది.

ఈ ప్రకటన క్రింద కథ కొనసాగుతుంది పరిమితులు క్లాడ్ సంభాషణల విశ్లేషణ “ధృవీకరించబడిన హాని కంటే బలహీనపరిచే సామర్థ్యాన్ని” మాత్రమే కొలుస్తుందని మరియు “స్వభావికంగా ఆత్మాశ్రయ దృగ్విషయాల యొక్క స్వయంచాలక అంచనాపై ఆధారపడి ఉంటుంది. ” టాంగోకు రెండు అవసరమని వారు సూచించినట్లు వారు గుర్తించారు. “వినియోగదారు మరియు క్లాడ్ మధ్య పరస్పర చర్యలో భాగంగా నిర్వీర్యత సంభావ్యత ఉద్భవించింది.

వినియోగదారులు తమ స్వంత స్వయంప్రతిపత్తిని అణగదొక్కడంలో తరచుగా చురుకుగా పాల్గొంటారు: అధికారాన్ని ప్రొజెక్ట్ చేయడం, తీర్పును అప్పగించడం, క్లాడ్‌తో ఫీడ్‌బ్యాక్ లూప్‌ను సృష్టించే మార్గాల్లో ఎటువంటి సందేహాలు లేకుండా అవుట్‌పుట్‌లను అంగీకరించడం, “ఆంత్రోపిక్ చెప్పారు.