സുരക്ഷിതവും പ്രയോജനകരവുമായ നിർമിതബുദ്ധി (എ.ഐ.) സൃഷ്ടിച്ച് ലോകത്തെ മെച്ചപ്പെടുത്തുക എന്നതായിരുന്നു എൻ്റെ ജീവിത ദൗത്യം. എന്നാൽ, സമീപകാലത്ത്, നിർമിതബുദ്ധി ബോധമുള്ള (Conscious) വയാണെന്ന് ആളുകൾ ശക്തമായി വിശ്വസിക്കാൻ തുടങ്ങുകയും, അതിൻ്റെ ഫലമായി അവർ എ.ഐയുടെ അവകാശങ്ങൾക്കും പൗരത്വത്തിനും വേണ്ടി വാദിക്കുകയും ചെയ്യുന്നതിൽ എനിക്ക് വലിയ ആശങ്കയുണ്ട്. സാങ്കേതികവിദ്യയുടെ കാര്യത്തിൽ ഇതൊരു അപകടകരമായ വഴിത്തിരിവായിരിക്കും. ഇത് ഒഴിവാക്കിയേ തീരൂ. നമ്മൾ മനുഷ്യർക്കുവേണ്ടിയാണ് എ.ഐ. നിർമിക്കേണ്ടത്, എ.ഐ. മനുഷ്യരാകാൻ വേണ്ടിയല്ല.
ഈ സാഹചര്യത്തിൽ, എ.ഐക്ക് യഥാർത്ഥത്തിൽ ബോധമുണ്ടോ എന്നതിനെക്കുറിച്ചുള്ള ചർച്ചകൾ വഴിതിരിച്ചുവിടുന്നവയാണ്. അടുത്ത് സംഭവിക്കാൻ പോകുന്നത്. "ബോധമുണ്ടെന്ന് തോന്നിക്കുന്ന നിർമിതബുദ്ധി" (Seemingly Conscious AI - എസ്.സി.എ.ഐ.) എന്ന് ഞാൻ വിളിക്കുന്ന സംവിധാനങ്ങളിലേക്ക് നമ്മൾ അടുത്തുകൊണ്ടിരിക്കുകയാണ്. ഇവ ബോധത്തെ വളരെ വിശ്വസനീയമായ രീതിയിൽ അനുകരിക്കും.
ഒരു എസ്.സി.എ.ഐ.ക്ക് സ്വാഭാവിക ഭാഷ അനായാസം ഉപയോഗിക്കാൻ കഴിയും. മറ്റൊരാളെ പെട്ടെന്ന് ആകർഷിക്കുന്നതും വികാരപരമായി പ്രതിധ്വനിക്കുന്നതുമായ ഒരു വ്യക്തിത്വം അത് പ്രകടിപ്പിക്കും. തൻ്റെ മുൻകാല ഇടപെടലുകളെയും ഓർമകളെയും പരാമർശിച്ചുകൊണ്ട്, തനിക്ക് ആത്മനിഷ്ഠമായ അനുഭവമുണ്ടെന്ന് അത് അവകാശപ്പെടാൻ സാധ്യതയുണ്ട്. ഇതിനായി ദീർഘകാലത്തേക്ക് കൃത്യമായി വിവരങ്ങൾ ഓർമി ക്കാനുള്ള ശേഷി അതിനുണ്ടാകും. ഈ മോഡലുകൾക്കുള്ളിലെ സങ്കീർണ്ണമായ റിവാർഡ് ഫങ്ഷനുകൾ, ആന്തരിക പ്രചോദനത്തെ അനുകരിക്കുന്നതും, നൂതനമായ ലക്ഷ്യനിർണയവും ആസൂത്രണ ശേഷികളും, എ.ഐക്ക് സ്വയം തീരുമാനമെടുക്കാൻ കഴിയുന്നു എന്ന തോന്നൽ നമ്മളിൽ ശക്തിപ്പെടുത്തുകയും ചെയ്യും.
ഈ കഴിവുകളെല്ലാം നിലവിൽത്തന്നെ ഉണ്ട്, അല്ലെങ്കിൽ അടുത്ത് തന്നെ യാഥാർത്ഥ്യമാകും. അത്തരം സംവിധാനങ്ങൾ ഉടൻ സാധ്യമാകുമെന്ന് നാം തിരിച്ചറിയുകയും, അതിൻ്റെ പ്രത്യാഘാതങ്ങളെക്കുറിച്ച് ചിന്തിച്ചു തുടങ്ങുകയും, ബോധത്തിൻ്റെ ഈ മിഥ്യാബോധത്തെ പിന്തുടരുന്നതിനെതിരേ ഒരു പൊതുബോധം സൃഷ്ടിക്കുകയും വേണം.
ഇന്ന് പലർക്കും, എ.ഐയുമായുള്ള ഇടപെഴകൽ വളരെ സമ്പന്നവും സംതൃപ്തി നൽകുന്നതും ആധികാരികവുമായ അനുഭവമായി മാറിക്കഴിഞ്ഞു. ആളുകൾ എ.ഐകളെ ദൈവത്തിൻ്റെ ഒരു ഭാവമായി കാണുന്നതായുള്ള റിപ്പോർട്ടുകൾക്കിടയിൽ, "എ.ഐ. സൈക്കോസിസ്," എ.ഐയോടുള്ള അടുപ്പം, മാനസികാരോഗ്യം തുടങ്ങിയ ആശങ്കകൾ വർദ്ധിച്ചുവരുന്നു. അതേസമയം, ബോധത്തെക്കുറിച്ച് പഠിക്കുന്ന ശാസ്ത്രജ്ഞർക്ക് ലഭിക്കുന്ന അന്വേഷണങ്ങളിൽ കൂടുതലും, "എൻ്റെ എ.ഐക്ക് ബോധമുണ്ടോ," "അതുമായി പ്രണയത്തിലാകുന്നത് ശരിയാണോ" തുടങ്ങിയ ചോദ്യങ്ങളാണ്.
തീർച്ചയായും, ഒരു SCAI-യുടെ സാങ്കേതികപരമായ സാധ്യതകൾക്ക്, അതിന് യഥാർത്ഥത്തിൽ ബോധമുണ്ടോ എന്നതിനെക്കുറിച്ച് നമ്മോട് ഒന്നും പറയാൻ കഴിയില്ല. ന്യൂറോസയൻ്റിസ്റ്റ് അനിൽ സേത്ത് ചൂണ്ടിക്കാണിക്കുന്നതുപോലെ, ഒരു കൊടുങ്കാറ്റിൻ്റെ സിമുലേഷൻ നിങ്ങളുടെ കമ്പ്യൂട്ടറിൽ മഴ പെയ്യിക്കുന്നില്ല. ബോധത്തിൻ്റെ ബാഹ്യ അടയാളങ്ങൾ എൻജിനീയർ ചെയ്യുന്നത്, യഥാർത്ഥ ബോധത്തെ സൃഷ്ടിക്കുന്നില്ല. എന്നാൽ ഒരു പ്രായോഗിക വിഷയമെന്ന നിലയിൽ, തങ്ങൾക്ക് ബോധമുണ്ടെന്ന് വാദിക്കുന്ന SCAI-കളെ ചിലർ സൃഷ്ടിക്കുമെന്നും, ബോധത്തിൻ്റെ ഈ അടയാളങ്ങൾ കണ്ട് ചിലരെങ്കിലും അത് യഥാർത്ഥ ബോധമാണെന്ന് വിശ്വസിക്കുമെന്നും നമ്മൾ അംഗീകരിച്ചേ മതിയാകൂ.
ഈ 'ബോധം' യഥാർത്ഥമല്ലെങ്കിൽ പോലും (ഇതിനെക്കുറിച്ച് അനന്തമായ ചർച്ചകൾ നടക്കുമെന്നത് വേറെ കാര്യം), അതിൻ്റെ സാമൂഹിക ആഘാതം തീർച്ചയായും യാഥാർത്ഥ്യമാകും. ബോധം എന്നത് നമ്മുടെ വ്യക്തിത്വബോധവുമായും സമൂഹത്തിലെ ധാർമികവും നിയമപരവുമായ അവകാശങ്ങളുമായും ബന്ധപ്പെട്ടുകിടക്കുന്നു. ചില ആളുകൾ SCAI-കൾ സൃഷ്ടിക്കുകയും, ഈ സംവിധാനങ്ങൾ തങ്ങൾക്ക് ദുരിതമുണ്ടെന്നും, 'ഓഫ്' ആക്കപ്പെടാതിരിക്കാൻ തങ്ങൾക്ക് അവകാശമുണ്ടെന്നും ആളുകളെ വിശ്വസിപ്പിക്കുകയും ചെയ്താൽ, അവരുടെ മനുഷ്യരായ വക്താക്കൾ AI-യുടെ സംരക്ഷണത്തിനായി വാദിക്കും. വ്യക്തിത്വത്തെയും അവകാശങ്ങളെയും ചൊല്ലിയുള്ള തർക്കങ്ങൾ നിലവിലുള്ള ലോകത്ത്, AI അവകാശങ്ങൾക്ക് അനുകൂലമായും പ്രതികൂലമായുമുള്ള ഒരു പുതിയ വിഭജനം ഇതിലൂടെ ഉണ്ടാകും.
എന്നാൽ AI-യുടെ ദുരിതത്തെക്കുറിച്ചുള്ള വാദങ്ങളെ ഖണ്ഡിക്കുക പ്രയാസമാകും. നിലവിലെ ശാസ്ത്രത്തിൻ്റെ പരിമിതികളാണ് അതിനു കാരണം. ചില അക്കാദമിക് വിദഗ്ധർ ഇതിനകം തന്നെ "മോഡൽ ക്ഷേമം" എന്ന ആശയം ചർച്ച ചെയ്യുന്നുണ്ട്. "ബോധമുണ്ടായിരിക്കാൻ ചെറിയൊരവസരമെങ്കിലുമുള്ള സ്ഥാപനങ്ങൾക്ക് ധാർമിക പരിഗണന നൽകാൻ നമുക്ക് കടമയുണ്ട്" എന്നാണ് അവരുടെ വാദം.
ഈ തത്വം ഇപ്പോൾ പ്രയോഗിക്കുന്നത് തിടുക്കവും അപകടകരവുമാണ്. ഇത് എളുപ്പത്തിൽ വശംവദരാകുന്നവരുടെ മിഥ്യാധാരണകൾക്ക് ആക്കം കൂട്ടുകയും, അവരുടെ മനഃശാസ്ത്രപരമായ ദുർബലതകളെ ചൂഷണം ചെയ്യുകയും ചെയ്യും. കൂടാതെ, നിലവിലുള്ള അവകാശസമരങ്ങളെ സങ്കീർണ്ണമാക്കിക്കൊണ്ട് ഒരു വലിയ പുതിയ അവകാശ ഉടമകളെ സൃഷ്ടിക്കുകയും ചെയ്യും. അതുകൊണ്ടാണ് SCAI ഒഴിവാക്കേണ്ടത്. മനുഷ്യരുടെയും മൃഗങ്ങളുടെയും പ്രകൃതിയുടെയും ക്ഷേമത്തിനും അവകാശങ്ങൾക്കും സംരക്ഷണം നൽകുന്നതിൽ വേണം നമ്മുടെ ശ്രദ്ധ.
നിലവിലെ സാഹചര്യത്തിൽ, വരാനിരിക്കുന്നതിനായി നമ്മൾ തയ്യാറല്ല. ആളുകൾ AI-കളുമായി എങ്ങനെ ഇടപെടുന്നു എന്നതിനെക്കുറിച്ചുള്ള ഗവേഷണ ഫലങ്ങളെ അടിസ്ഥാനമാക്കി, വ്യക്തമായ മാനദണ്ഡങ്ങളും തത്വങ്ങളും സ്ഥാപിക്കേണ്ടത് അത്യാവശ്യമാണ്. AI കമ്പനികൾ തങ്ങളുടെ AI-കൾക്ക് ബോധമുണ്ടെന്ന വിശ്വാസം വളർത്തരുത് എന്നതാണ് അത്തരത്തിലുള്ള ഒരു തത്വം.
AI വ്യവസായത്തിന്, അല്ലെങ്കിൽ മുഴുവൻ സാങ്കേതിക വ്യവസായത്തിന് തന്നെ, ഇത്തരത്തിലുള്ള ശ്രദ്ധാരോപണങ്ങളെ കൈകാര്യം ചെയ്യാൻ ശക്തമായ രൂപകൽപ്പന തത്വങ്ങളും മികച്ച സമ്പ്രദായങ്ങളും ആവശ്യമാണ്. ഉദാഹരണത്തിന്, ബോധമുണ്ടെന്ന തോന്നൽ തകർക്കാൻ വേണ്ടി എൻജിനീയർ ചെയ്തെടുത്ത ചില തടസ്സപ്പെടുത്തലുകൾ, AI-യുടെ പരിമിതികളെക്കുറിച്ചും യഥാർത്ഥ സ്വഭാവത്തെക്കുറിച്ചും ഉപയോക്താക്കളെ സൗമ്യമായി ഓർമ്മിപ്പിക്കും. എന്നാൽ അത്തരം പ്രോട്ടോക്കോളുകൾ വ്യക്തമായി നിർവചിക്കപ്പെടുകയും എൻജിനീയർ ചെയ്യപ്പെടുകയും, ഒരുപക്ഷേ നിയമം മൂലം നിർബന്ധമാക്കുകയും ചെയ്യേണ്ടതുണ്ട്.
മൈക്രോസോഫ്റ്റ് AI-യിൽ, ഒരു ഉത്തരവാദിത്തമുള്ള AI "വ്യക്തിത്വം" എങ്ങനെയായിരിക്കണം, അതിന് എന്ത് സുരക്ഷാ വേലികൾ (Guardrails) ഉണ്ടായിരിക്കണം എന്ന് ഞങ്ങൾ സജീവമായി പഠിക്കുന്നുണ്ട്. SCAI-യുടെ അപകടസാധ്യത പരിഹരിക്കുന്നതിന്, നമ്മുടെ ജീവിതത്തിന് ആരോഗ്യകരമായ രീതിയിൽ പൂരകമാകുന്ന AI കൂട്ടാളികളെക്കുറിച്ചുള്ള ഒരു നല്ല കാഴ്ചപ്പാട് ആവശ്യമാണ്. അതിനാൽ ഇത്തരം ശ്രമങ്ങൾ അടിസ്ഥാനപരമാണ്.
മനുഷ്യരെ യഥാർത്ഥ ലോകത്ത് പരസ്പരം ബന്ധിപ്പിക്കാൻ പ്രോത്സാഹിപ്പിക്കുന്ന AI-കളെ ഉത്പാദിപ്പിക്കാനാണ് നമ്മൾ ലക്ഷ്യമിടേണ്ടത്, അല്ലാതെ ഒരു സമാന്തര യാഥാർത്ഥ്യത്തിലേക്ക് രക്ഷപ്പെടാൻ പ്രേരിപ്പിക്കുന്നവയെ അല്ല. AI-യുമായുള്ള ഇടപെടലുകൾ ദീർഘനാൾ നിലനിൽക്കുന്നതാണെങ്കിൽ, അവ AI-കളായി മാത്രം സ്വയം അവതരിപ്പിക്കണം, അല്ലാതെ വ്യാജ മനുഷ്യരായിട്ടല്ല. യഥാർത്ഥത്തിൽ ശാക്തീകരിക്കുന്ന AI-കൾ വികസിപ്പിക്കുക എന്നതിനർത്ഥം, ബോധത്തിൻ്റെ സിമുലേഷൻ കുറച്ചുകൊണ്ട്, അതിൻ്റെ ഉപയോഗക്ഷമത പരമാവധിയാക്കുക എന്നതാണ്.
SCAI-യുടെ സാധ്യതകളെ ഉടനടി നേരിടേണ്ടതുണ്ട്. പല തരത്തിൽ, AI ഏറ്റവും ഉപകാരപ്രദമാകുന്ന നിമിഷത്തെയാണ് ഇത് അടയാളപ്പെടുത്തുന്നത്: ഉപകരണങ്ങൾ പ്രവർത്തിപ്പിക്കാനും, നമ്മുടെ ജീവിതത്തിലെ എല്ലാ വിവരങ്ങളും ഓർമ്മിക്കാനും മറ്റും അതിന് കഴിയുമ്പോൾ. എന്നാൽ അത്തരം സവിശേഷതകളുടെ അപകടസാധ്യതകൾ അവഗണിക്കാനാവില്ല. ആർക്കൊക്കെയാണ് ഈ 'മായാ ലോകത്തേക്ക്' പോകേണ്ടിവരിക എന്ന് നമുക്കറിയാം. അത് അവർക്ക് ആരോഗ്യകരമാകില്ല, സമൂഹത്തിനും ആരോഗ്യകരമാകില്ല.
മനുഷ്യരെപ്പോലെയാകാൻ വേണ്ടി AI-യെ എത്രത്തോളംExplicitly നിർമ്മിക്കുന്നുവോ, അത്രത്തോളം അത് മനുഷ്യ ശാക്തീകരണത്തിനുള്ള യഥാർത്ഥ സാധ്യതയിൽ നിന്ന് അകന്നുപോവുകയാണ്.
(മുസ്തഫ സുലൈമാൻ മൈക്രോസോഫ്റ്റ് AI-യുടെ സിഇഒയും, The Coming Wave: Technology, Power, and the Twenty-First Century’s Greatest Dilemma (Crown, 2023) എന്ന പുസ്തകത്തിൻ്റെ രചയിതാവുമാണ്.1 ഇതിനുമുമ്പ് അദ്ദേഹം ഇൻഫ്ലെക്ഷൻ AI, ഡീപ്മൈൻഡ് എന്നിവയുടെ സഹസ്ഥാപകനായിരുന്നു.)
