ആന്ത്രോപിക്കിൻ്റെ AI സേഫ്റ്റി ലീഡ് മൃണാങ്ക് ശർമ്മ രാജിവച്ചു: ‘ലോകം അപകടത്തിലാണ്’

ആർട്ടിഫിഷ്യൽ ഇൻ്റലിജൻസിൽ നിന്നോ (AI) അല്ലെങ്കിൽ ബയോവീപ്പണിൽ നിന്നോ മാത്രമല്ല, “ലോകം അപകടത്തിലാണ്” എന്ന് പറഞ്ഞ് ആന്ത്രോപിക്കിലെ സേഫ്ഗാർഡ്സ് റിസർച്ച് ടീമിനെ നയിച്ചിരുന്ന മൃണാങ്ക് ശർമ്മ കമ്പനിയിൽ നിന്ന് രാജിവച്ചു, എന്നാൽ അദ്ദേഹം പറഞ്ഞതിൽ നിന്ന് “പരസ്പരബന്ധിതമായ പ്രതിസന്ധികളുടെ ഒരു പരമ്പരയാണ് ഇപ്പോൾ വെളിപ്പെടുന്നത്.

കാലിഫോർണിയയിലെ സാൻ ഫ്രാൻസിസ്കോ ആസ്ഥാനമായി പ്രവർത്തിക്കുന്ന ഒരു അമേരിക്കൻ AI കമ്പനിയായ ആന്ത്രോപിക്, അതിൻ്റെ AI മോഡലായ ക്ലോഡിലൂടെ പ്രശസ്തി നേടി. AI എങ്ങനെ സമ്പദ്‌വ്യവസ്ഥയെ പരിവർത്തനം ചെയ്യുമെന്നതിനെക്കുറിച്ചുള്ള നിക്ഷേപകരുടെ ആശങ്കകൾക്കിടയിൽ, വിവിധ വ്യവസായങ്ങളിലെ ജോലി ജോലികൾ ഓട്ടോമേറ്റ് ചെയ്യാൻ രൂപകൽപ്പന ചെയ്ത പുതിയ ടൂളുകൾ ആന്ത്രോപിക് പുറത്തിറക്കി. ഈ നീക്കം, നവീകരണങ്ങൾ പല ബിസിനസുകളെയും ദോഷകരമായി ബാധിക്കുമെന്ന ആശങ്കയ്ക്ക് കാരണമായി.

ഇതും വായിക്കുക | ടിസിഎസിൻ്റെ ബിസിനസ് മോഡൽ ഇൻഫോസിസിലേക്ക് ഉയർത്തുമെന്ന് ആന്ത്രോപിക് ക്ലോഡ് കോവർക്ക് ഭീഷണിപ്പെടുത്തുന്നു

എക്‌സിലെ ഒരു പോസ്റ്റിൽ ശർമ്മ തൻ്റെ രാജിക്കത്ത് വിശദമാക്കുന്ന ഒരു കത്ത് പങ്കിട്ടു. അദ്ദേഹം പറഞ്ഞു, “ഞാൻ ആന്ത്രോപിക് വിടാൻ തീരുമാനിച്ചു…ഞാൻ ഇവിടെ ആഗ്രഹിച്ചത് നേടിയിരിക്കുന്നു. പിഎച്ച്ഡി പൂർത്തിയാക്കി, AI സുരക്ഷയ്ക്ക് സംഭാവന നൽകാൻ ഞാൻ രണ്ട് വർഷം മുമ്പ് സാൻഫ്രാൻസിസ്കോയിൽ എത്തി. കൂടാതെ ആദ്യത്തെ AI സുരക്ഷാ കേസുകളിൽ ഒന്ന് എഴുതുന്നു.

ശർമ്മ തൻ്റെ സമീപകാല ശ്രമങ്ങളിൽ അഭിമാനം പ്രകടിപ്പിച്ചു, പ്രത്യേകിച്ച് “AI അസിസ്റ്റൻ്റുമാർക്ക് എങ്ങനെ നമ്മളെ മനുഷ്യരാക്കുകയോ നമ്മുടെ മാനവികതയെ വികലമാക്കുകയോ ചെയ്യാം” എന്നതിനെക്കുറിച്ചുള്ള അദ്ദേഹത്തിൻ്റെ അന്തിമ പദ്ധതി.

എന്നിരുന്നാലും, തനിക്ക് മുന്നോട്ട് പോകേണ്ട സമയമാണിതെന്നും അദ്ദേഹം പറഞ്ഞു. “ഞങ്ങളുടെ സാഹചര്യം ഞാൻ തുടർച്ചയായി കണക്കാക്കുന്നു. ലോകം അപകടത്തിലാണ്. AI, അല്ലെങ്കിൽ ജൈവായുധങ്ങൾ എന്നിവയിൽ നിന്ന് മാത്രമല്ല, ഈ നിമിഷത്തിൽ തന്നെ വികസിക്കുന്ന പരസ്പരബന്ധിതമായ പ്രതിസന്ധികളുടെ ഒരു പരമ്പരയിൽ നിന്നാണ്. ലോകത്തെ ബാധിക്കാനുള്ള നമ്മുടെ കഴിവിന് തുല്യമായ അളവിൽ നമ്മുടെ ജ്ഞാനം വളരേണ്ട ഒരു പരിധിയിലേക്ക് ഞങ്ങൾ അടുക്കുന്നതായി തോന്നുന്നു.

ഇതും വായിക്കുക | ക്ലോഡ് ഓപസ് 4.6: ദൈനംദിന ജോലിസ്ഥലത്തെ ഉപയോഗത്തിനുള്ള 5 പ്രധാന ആന്ത്രോപിക് അപ്‌ഡേറ്റുകൾ; ‘ഓപ്പൺഎഐയുടെ ജിപിടിയെ മറികടക്കുന്നു’

“നമ്മുടെ പ്രവർത്തനങ്ങളെ നിയന്ത്രിക്കാൻ നമ്മുടെ മൂല്യങ്ങളെ യഥാർത്ഥത്തിൽ അനുവദിക്കുക” എന്നത് എത്ര പ്രയാസകരമാണെന്ന് അദ്ദേഹം ആന്ത്രോപിക്കിലെ തൻ്റെ കാലത്തുടനീളം ആവർത്തിച്ച് മനസ്സിലാക്കിയിട്ടുണ്ട്.

കമ്പനിക്കകത്തും തനിക്കും ഉള്ളിൽ, ഏറ്റവും പ്രധാനപ്പെട്ടത് മാറ്റിവയ്ക്കാൻ നിരന്തരമായ സമ്മർദ്ദമുണ്ടെന്ന് ശർമ്മ സമ്മതിച്ചു, അത് വിശാലമായ സമൂഹത്തിലുടനീളം കാണപ്പെടുന്നു.

“എനിക്ക് അത്യന്താപേക്ഷിതമെന്ന് തോന്നുന്ന ചോദ്യങ്ങൾ, “പോകാൻ അവകാശമില്ല” എന്ന് ഡേവിഡ് വൈറ്റ് പറയുന്ന ചോദ്യങ്ങൾ, “ജീവിക്കാൻ” റിൽക്കെ നമ്മോട് അഭ്യർത്ഥിക്കുന്ന ചോദ്യങ്ങൾ എന്നിവ പര്യവേക്ഷണം ചെയ്യാൻ ഞാൻ ആഗ്രഹിക്കുന്നു. എന്നെ സംബന്ധിച്ചിടത്തോളം ഇത് ഉപേക്ഷിക്കുക എന്നതാണ്,” ശർമ്മ തൻ്റെ കത്തിൽ പറഞ്ഞു.

അടുത്തതായി എന്തുചെയ്യുമെന്ന് ശർമ്മ വിശദമാക്കിയില്ല. പകരം, അദ്ദേഹം ഒരു പ്രശസ്ത സെൻ ഉദ്ധരണി ഉദ്ധരിച്ചു, “അറിയുകയല്ല ഏറ്റവും അടുപ്പമുള്ളതാണ്”.

കഴിഞ്ഞ വർഷങ്ങളിൽ തന്നെ നിലനിർത്തിയിരുന്ന ഘടനകളെ മാറ്റിനിർത്താനും അവയുടെ അഭാവത്തിൽ എന്തെല്ലാം ഉയർന്നുവരുമെന്ന് കണ്ടെത്താനും കഴിയുന്ന ഒരു ഇടം സൃഷ്ടിക്കാനാണ് താൻ ഉദ്ദേശിക്കുന്നതെന്ന് അദ്ദേഹം പറഞ്ഞു.

“ഞങ്ങൾ കണ്ടെത്തുന്ന സ്ഥലത്തെ അഭിസംബോധന ചെയ്യുന്നതും പൂർണ്ണമായും ഇടപഴകുന്നതും, കാവ്യാത്മക സത്യത്തെ ശാസ്ത്രീയ സത്യത്തോടൊപ്പം ഒരുപോലെ സാധുവായ അറിവ് നൽകുന്നതുമായ എഴുത്തിലേക്ക് ഞാൻ വിളിക്കപ്പെട്ടതായി തോന്നുന്നു, ഇവ രണ്ടും പുതിയ സാങ്കേതികവിദ്യ വികസിപ്പിക്കുമ്പോൾ സംഭാവന ചെയ്യേണ്ടത് അത്യാവശ്യമാണെന്ന് ഞാൻ വിശ്വസിക്കുന്നു,” ശർമ്മ എഴുതി.

കവിതയിൽ ബിരുദം പര്യവേക്ഷണം ചെയ്യാനും ധീരമായ സംസാര പരിശീലനത്തിനായി സ്വയം സമർപ്പിക്കാനും താൻ പ്രതീക്ഷിക്കുന്നതായി മൃണാങ്ക് ശർമ്മ പറഞ്ഞു.

“എൻ്റെ സുഗമമാക്കൽ, കോച്ചിംഗ്, കമ്മ്യൂണിറ്റി ബിൽഡിംഗ്, ഗ്രൂപ്പ് വർക്ക് എന്നിവയെ കൂടുതൽ ആഴത്തിലാക്കാൻ ഞാൻ ആവേശഭരിതനാണ്. നമുക്ക് എന്ത് സംഭവിക്കും,” അദ്ദേഹം കൂട്ടിച്ചേർത്തു. അവസാനമായി, വില്യം സ്റ്റാഫോർഡിൻ്റെ “ദി വേ ഇറ്റ് ഈസ്” എന്ന തൻ്റെ പ്രിയപ്പെട്ട കവിതകളിലൊന്നാണ് മൃണാങ്ക് ശർമ്മ കത്തിൽ ഒപ്പിട്ടത്.

ഒരു പ്രത്യേക പോസ്റ്റിൽ, താൻ യുണൈറ്റഡ് കിംഗ്ഡത്തിലേക്ക് തിരികെ പോകുമെന്നും “ഒരു നിശ്ചിത സമയത്തേക്ക് എന്നെ അദൃശ്യനാകാൻ അനുവദിക്കുമെന്നും” ശർമ്മ പറഞ്ഞു.