മാനിയ, സൈക്കോസിസ് അല്ലെങ്കിൽ ആത്മഹത്യാ ചിന്തകൾ എന്നിവയുൾപ്പെടെയുള്ള മാനസികാരോഗ്യ അടിയന്തരാവസ്ഥകളുടെ സാധ്യമായ ലക്ഷണങ്ങൾ പ്രകടിപ്പിക്കുന്ന ChatGPT ഉപയോക്താക്കളുടെ എണ്ണത്തിൻ്റെ പുതിയ കണക്കുകൾ OpenAI പുറത്തുവിട്ടു.
ഒരു നിശ്ചിത ആഴ്ചയിൽ സജീവമായ 0.07% ChatGPT ഉപയോക്താക്കളും അത്തരം അടയാളങ്ങൾ പ്രദർശിപ്പിച്ചിട്ടുണ്ടെന്ന് കമ്പനി പറഞ്ഞു, അതിൻ്റെ ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസ് (AI) ചാറ്റ്ബോട്ട് ഈ സെൻസിറ്റീവ് സംഭാഷണങ്ങൾ തിരിച്ചറിയുകയും പ്രതികരിക്കുകയും ചെയ്യുന്നു.
ഈ കേസുകൾ “വളരെ അപൂർവമാണ്” എന്ന് OpenAI നിലകൊള്ളുന്നുണ്ടെങ്കിലും, ഒരു ചെറിയ ശതമാനം പോലും ലക്ഷക്കണക്കിന് ആളുകൾക്ക് കാരണമാകുമെന്ന് വിമർശകർ പറഞ്ഞു, കാരണം ChatGPT അടുത്തിടെ 800 ദശലക്ഷം പ്രതിവാര സജീവ ഉപയോക്താക്കളിൽ എത്തിയിരുന്നു, ബോസ് സാം ആൾട്ട്മാൻ.
സൂക്ഷ്മപരിശോധന വർദ്ധിക്കുന്നതിനനുസരിച്ച്, ഉപദേശിക്കാൻ ലോകമെമ്പാടുമുള്ള വിദഗ്ധരുടെ ഒരു ശൃംഖല നിർമ്മിച്ചതായി കമ്പനി പറഞ്ഞു.
60 രാജ്യങ്ങളിൽ പ്രാക്ടീസ് ചെയ്തിട്ടുള്ള 170-ലധികം സൈക്യാട്രിസ്റ്റുകൾ, സൈക്കോളജിസ്റ്റുകൾ, പ്രൈമറി കെയർ ഫിസിഷ്യൻമാർ എന്നിവരും ഈ വിദഗ്ധരിൽ ഉൾപ്പെടുന്നു, കമ്പനി പറഞ്ഞു.
OpenAI പ്രകാരം, യഥാർത്ഥ ലോകത്ത് സഹായം തേടാൻ ഉപയോക്താക്കളെ പ്രോത്സാഹിപ്പിക്കുന്നതിനായി അവർ ChatGPT-ൽ പ്രതികരണങ്ങളുടെ ഒരു പരമ്പര രൂപപ്പെടുത്തിയിട്ടുണ്ട്.
എന്നാൽ കമ്പനിയുടെ ഡാറ്റയിലെ ഒരു നോട്ടം ചില മാനസികാരോഗ്യ വിദഗ്ധർക്കിടയിൽ പുരികം ഉയർത്തി.
“ദശലക്ഷക്കണക്കിന് ഉപയോക്താക്കളുള്ള ഒരു ജനസംഖ്യാ തലത്തിൽ 0.07% എന്നത് ഒരു ചെറിയ ശതമാനമാണെന്ന് തോന്നുമെങ്കിലും, യഥാർത്ഥത്തിൽ അത് വളരെ കുറച്ച് ആളുകളായിരിക്കാം,” സാൻ ഫ്രാൻസിസ്കോയിലെ കാലിഫോർണിയ സർവകലാശാലയിലെ യുവാക്കൾക്കിടയിൽ സാങ്കേതിക ഉപയോഗം പഠിക്കുന്ന പ്രൊഫസർ ഡോ. ജേസൺ നാഗാറ്റ പറഞ്ഞു.
“എഐക്ക് മാനസികാരോഗ്യ പിന്തുണയിലേക്കുള്ള പ്രവേശനം വിശാലമാക്കാനും ചില തരത്തിൽ മാനസികാരോഗ്യത്തെ പിന്തുണയ്ക്കാനും കഴിയും, എന്നാൽ പരിമിതികളെക്കുറിച്ച് നമ്മൾ ബോധവാന്മാരായിരിക്കണം,” ഡോ. നാഗത കൂട്ടിച്ചേർത്തു.
0.15% ChatGPT ഉപയോക്താക്കൾക്കും “ആത്മഹത്യ ആസൂത്രണം അല്ലെങ്കിൽ ഉദ്ദേശ്യത്തിൻ്റെ വ്യക്തമായ സൂചകങ്ങൾ” ഉൾപ്പെടുന്ന സംഭാഷണങ്ങൾ ഉണ്ടെന്നും കമ്പനി കണക്കാക്കുന്നു.
തങ്ങളുടെ ചാറ്റ്ബോട്ടിലേക്കുള്ള സമീപകാല അപ്ഡേറ്റുകൾ രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത് “ഭ്രമത്തിൻ്റെയോ ഉന്മാദത്തിൻ്റെയോ സാധ്യതയുള്ള സൂചനകളോട്” സുരക്ഷിതമായും സഹാനുഭൂതിയോടെയും പ്രതികരിക്കുന്നതിനും “സ്വയം-ദ്രോഹത്തിൻ്റെയോ ആത്മഹത്യാ സാധ്യതയുടെയോ പരോക്ഷ സിഗ്നലുകൾ” ശ്രദ്ധിക്കുകയും ചെയ്യുന്നതാണെന്നും OpenAI പറഞ്ഞു.
ഒരു പുതിയ വിൻഡോയിൽ തുറന്ന് “മറ്റ് മോഡലുകളിൽ നിന്ന് ഉത്ഭവിക്കുന്ന” സെൻസിറ്റീവ് സംഭാഷണങ്ങൾ സുരക്ഷിതമായ മോഡലുകളിലേക്ക് മാറ്റാനും ChatGPT പരിശീലിപ്പിച്ചിട്ടുണ്ട്.
ബാധിക്കപ്പെടാൻ സാധ്യതയുള്ള ആളുകളുടെ എണ്ണത്തെക്കുറിച്ചുള്ള വിമർശനത്തെക്കുറിച്ചുള്ള ബിബിസിയുടെ ചോദ്യങ്ങൾക്ക് മറുപടിയായി, ഓപ്പൺഎഐ പറഞ്ഞു, ഈ ചെറിയ ശതമാനം ഉപയോക്താക്കൾ അർത്ഥവത്തായ ആളുകൾക്ക് തുല്യമാണെന്നും അവർ മാറ്റങ്ങൾ ഗൗരവമായി കാണുന്നുവെന്നും പറഞ്ഞു.
ChatGPT ഉപയോക്താക്കളുമായി ഇടപഴകുന്ന രീതിയെ കുറിച്ച് OpenAI നിയമപരമായ പരിശോധനകൾ നേരിടുന്ന സാഹചര്യത്തിലാണ് മാറ്റങ്ങൾ വരുന്നത്.
ഏറ്റവും ഉയർന്ന വ്യവഹാരങ്ങളിലൊന്നിൽ അടുത്തിടെ ഫയൽ ചെയ്തു ഓപ്പൺഎഐയ്ക്കെതിരെ, കാലിഫോർണിയ ദമ്പതികൾ തങ്ങളുടെ കൗമാരക്കാരനായ മകൻ്റെ മരണത്തിൽ കമ്പനിക്കെതിരെ കേസ് കൊടുത്തു, ഏപ്രിലിൽ ആത്മഹത്യ ചെയ്യാൻ ChatGPT അവനെ പ്രോത്സാഹിപ്പിച്ചുവെന്ന് ആരോപിച്ചു.
16 കാരനായ ആദം റെയ്നിൻ്റെ മാതാപിതാക്കൾ ഫയൽ ചെയ്ത കേസ്, ഓപ്പൺഎഐ തെറ്റായ മരണമാണെന്ന് ആരോപിച്ച് ആദ്യത്തെ നിയമ നടപടിയായിരുന്നു.
മറ്റൊരു കേസിൽ, കണക്റ്റിക്കട്ടിലെ ഗ്രീൻവിച്ചിൽ ഓഗസ്റ്റിൽ നടന്ന കൊലപാതക-ആത്മഹത്യയിലെ പ്രതി ചാറ്റ്ജിപിടിയുമായി മണിക്കൂറുകളോളം നടത്തിയ സംഭാഷണങ്ങൾ പോസ്റ്റ് ചെയ്തു, ഇത് കുറ്റവാളിയുടെ വ്യാമോഹത്തിന് ആക്കം കൂട്ടി.
“ചാറ്റ്ബോട്ടുകൾ യാഥാർത്ഥ്യത്തിൻ്റെ മിഥ്യ സൃഷ്ടിക്കുന്നതിനാൽ” കൂടുതൽ ഉപയോക്താക്കൾ AI സൈക്കോസിസുമായി പൊരുതുന്നു, കാലിഫോർണിയ സർവകലാശാലയിലെ AI ലോ & ഇന്നൊവേഷൻ ഇൻസ്റ്റിറ്റ്യൂട്ടിൻ്റെ ഡയറക്ടർ പ്രൊഫസർ റോബിൻ ഫെൽഡ്മാൻ പറഞ്ഞു. “ഇതൊരു ശക്തമായ മിഥ്യയാണ്.”
“സ്ഥിതിവിവരക്കണക്കുകൾ പങ്കിടുന്നതിനും പ്രശ്നം മെച്ചപ്പെടുത്തുന്നതിനുള്ള ശ്രമങ്ങൾക്കും” ഓപ്പൺഎഐ ക്രെഡിറ്റ് അർഹിക്കുന്നുവെന്നും അവർ പറഞ്ഞു: “കമ്പനിക്ക് എല്ലാത്തരം മുന്നറിയിപ്പുകളും സ്ക്രീനിൽ നൽകാം, എന്നാൽ മാനസികമായി അപകടസാധ്യതയുള്ള ഒരു വ്യക്തിക്ക് ആ മുന്നറിയിപ്പുകൾ ശ്രദ്ധിക്കാൻ കഴിഞ്ഞേക്കില്ല.”