AI உலகில் வேகமாக அதிகரித்து வரும் போட்டி, எதிர்காலத்தில் மனிதர்களைக் காட்டிலும் பல மடங்கு திறன் கொண்ட “Superintelligence” உருவாகும் நிலைக்கு கொண்டு செல்லக்கூடும் என்றும், அதற்கான பாதுகாப்பு நடவடிக்கைகள் போதுமான அளவில் தயாராகவில்லை என்றும் Anthropic நிறுவனத்தின் முன்னாள் ஆராய்ச்சியாளர் Jacob Coxon எச்சரித்துள்ளார்.
செயற்கை நுண்ணறிவு (AI) துறையில் உலகின் முன்னணி நிறுவனங்களான Anthropic மற்றும் OpenAI ஆகியவற்றில் பணியாற்றிய Jacob Coxon, Anthropic நிறுவனத்திலிருந்து விலகியதுடன், AI துறையின் தற்போதைய வளர்ச்சி வேகம் குறித்து கடுமையான கவலைகளையும் தெரிவித்துள்ளார்.
அவரது கருத்துகள் தற்போது உலகளவில் AI பாதுகாப்பு குறித்து மீண்டும் பெரிய விவாதத்தை உருவாக்கியுள்ளன.
“AI நிறுவனங்கள் பொறுப்புடன் செயல்படவில்லை” – Jacob Coxon
Jacob Coxon, கடந்த மூன்று ஆண்டுகளில் OpenAI மற்றும் Anthropic ஆகிய இரு நிறுவனங்களிலும் AI model pre-training தொடர்பான ஆராய்ச்சியில் பணியாற்றியதாக தெரிவித்துள்ளார்.
செப்டம்பர் 2026-ல் Anthropic-ல் இருந்து விலகுவதாக அறிவித்த அவர், முன்னணி AI நிறுவனங்கள் தங்களைத் தாங்களே மேம்படுத்திக் கொள்ளக்கூடிய Superintelligence அமைப்புகளை உருவாக்கும் போட்டியில் ஈடுபட்டுள்ளதாக குற்றம் சாட்டியுள்ளார்.
இந்த போட்டி, தொழில்நுட்ப முன்னேற்றத்தை மட்டும் சார்ந்தது அல்ல என்றும், மனிதகுலத்தின் எதிர்காலத்தையே ஆபத்தில் ஆழ்த்தக்கூடியதாக இருக்கலாம் என்றும் அவர் கூறியிருப்பது பெரும் விவாதத்தை ஏற்படுத்தியுள்ளது.
Coxon-ன் முக்கிய கவலை என்னவென்றால், எதிர்கால AI அமைப்புகள் வெறும் கேள்விகளுக்கு பதில் அளிக்கும் chatbot-களாக இருக்காமல், தன்னிச்சையாக ஆராய்ச்சி செய்யும், தனது திறன்களை மேம்படுத்தும், கணினி அமைப்புகளைப் பயன்படுத்தும், குறியீடுகளை உருவாக்கும் மற்றும் பல்வேறு பணிகளை மனிதர்களின் தொடர்ச்சியான கண்காணிப்பின்றி செய்யும் திறனைப் பெறலாம் என்பதுதான்.
2030 ஏன் இவ்வளவு முக்கியமான ஆண்டாக பார்க்கப்படுகிறது?
இங்கே ஒரு முக்கியமான விஷயத்தை புரிந்து கொள்ள வேண்டும்.
“2030-க்குள் மனிதகுலம் அழிந்துவிடும்” என்பது நிரூபிக்கப்பட்ட அறிவியல் கணிப்பு அல்ல.
Coxon கூறியது, AI துறையில் பணிபுரியும் சில ஆராய்ச்சியாளர்கள் மற்றும் தலைவர்கள், இந்த தசாப்தத்தின் முடிவுக்குள் மிகவும் ஆபத்தான அளவுக்கு சக்திவாய்ந்த AI உருவாகும் சாத்தியத்தை உண்மையான அபாயமாகக் கருதுகின்றனர் என்பதுதான்.
அதாவது, இது ஒரு உறுதியான “2029 அல்லது 2030-ல் பேரழிவு ஏற்படும்” என்ற கணிப்பு அல்ல.
மாறாக,
“மனிதர்கள் உருவாக்கும் AI, மனிதர்களின் கட்டுப்பாட்டைத் தாண்டும் அளவுக்கு வேகமாக வளர்ந்துவிட்டால் என்ன ஆகும்?”
என்ற கேள்வியே இந்த விவாதத்தின் மையமாக உள்ளது.
Superintelligence என்றால் என்ன?
தற்போது நாம் பயன்படுத்தும் பெரும்பாலான AI அமைப்புகள் குறிப்பிட்ட பணிகளில் மனிதர்களுக்கு இணையாகவோ அல்லது சில பணிகளில் மனிதர்களை விட சிறப்பாகவோ செயல்படுகின்றன.
ஆனால் Artificial Superintelligence (ASI) என்பது அதைவிட முற்றிலும் வேறுபட்ட கருத்து.
ஒரு AI அமைப்பு:
- மனிதர்களைவிட வேகமாக கற்றுக்கொள்ளும்
- பல துறைகளில் மனிதர்களைவிட திறமையாக செயல்படும்
- சிக்கலான அறிவியல் பிரச்சினைகளைத் தீர்க்கும்
- புதிய தொழில்நுட்பங்களை உருவாக்கும்
- மென்பொருள் மற்றும் AI systems-ஐ உருவாக்கும்
- தன்னுடைய செயல்திறனை மேம்படுத்த உதவும்
- மிகப்பெரிய அளவில் தன்னிச்சையாக செயல்படக்கூடியதாக மாறும்
நிலை ஏற்பட்டால், அது Superintelligence எனப்படும்.
இதில் மிக முக்கியமான சொல் “self-improving”.
Self-improving AI என்றால் என்ன?
இப்போது ஒரு மனித AI researcher ஒரு புதிய AI model-ஐ உருவாக்குகிறார்.
ஆனால் எதிர்காலத்தில் AI தானாகவே:
AI code → புதிய code → சிறந்த model → புதிய research → மேலும் திறன் → மீண்டும் தன்னை மேம்படுத்துதல்
என்ற சுழற்சியில் செயல்படத் தொடங்கினால் என்ன ஆகும்?
இதுதான் AI safety ஆராய்ச்சியாளர்கள் குறிப்பிடும் recursive self-improvement குறித்த கவலை.
ஒரு AI தன்னுடைய திறனை மேம்படுத்துவதில் மனிதர்களை விட வேகமாக செயல்படத் தொடங்கினால், அதன் வளர்ச்சி வேகத்தை மனிதர்கள் கணிப்பது கடினமாகிவிடலாம்.
Anthropic-ன் Alignment Science Lead Evan Hubinger கூட, தன்னுடைய கவலை தற்போதைய AI models குறித்து அல்ல என்றும், recursive self-improvement மூலம் Superintelligence உருவாகும் சாத்தியம் குறித்தே முக்கியமான கவலை இருப்பதாகவும் தெரிவித்துள்ளார்.
Anthropic-ன் சொந்த AI Safety கொள்கைகளும் என்ன சொல்கின்றன?
இது மிகவும் முக்கியமான அம்சம்.
இந்த விவாதம் முழுவதும் வெளியில் இருந்து மட்டும் எழுப்பப்படும் குற்றச்சாட்டு அல்ல.
Anthropic நிறுவனமே தனது Responsible Scaling Policy (RSP) மற்றும் Risk Reports மூலம் advanced AI ஏற்படுத்தக்கூடிய catastrophic risks குறித்து தொடர்ந்து விவாதித்து வருகிறது.
2026 ஆகஸ்ட் மாதத்தில் வெளியிடப்பட்ட Risk Report-ல், AI தொடர்பான பல்வேறு கடுமையான அபாயங்களை நிறுவனம் மதிப்பீடு செய்துள்ளது.
அதில்:
- Chemical & biological risks
- AI-assisted harmful activities
- High-stakes sabotage
- Automated AI research and development
போன்ற அபாயங்கள் இடம்பெற்றுள்ளன.
இதனால், AI safety என்பது கற்பனையான ஒரு பிரச்சினை அல்ல; முன்னணி AI நிறுவனங்களே அதை தங்களுடைய risk-management framework-ன் ஒரு பகுதியாகக் கருதுகின்றன என்பது தெளிவாகிறது.
“AI மனிதர்களைக் கொல்லும் அபாயம் 10%-க்கும் மேல்” – Anthropic-ன் ஆராய்ச்சியாளர்
Jacob Coxon-ன் ராஜினாமா செய்தி இன்னும் அதிர்ச்சியை ஏற்படுத்தியதற்கு மற்றொரு காரணம் உள்ளது.
Coxon-ன் கருத்துக்கு பதிலளித்த Anthropic-ன் Alignment Science Lead Evan Hubinger, AI மனிதகுலத்தையே அழிக்கும் சாத்தியம் குறித்து தானும் தீவிரமாக கவலைப்படுவதாக தெரிவித்துள்ளார்.
தனிப்பட்ட மதிப்பீடாக, அடுத்த பத்து ஆண்டுகளில் AI மனிதகுலத்திற்கு அழிவை ஏற்படுத்தும் சாத்தியம் 10%-க்கும் அதிகமாக இருக்கலாம் என்று அவர் கூறியதாக பல ஊடகங்கள் செய்தி வெளியிட்டுள்ளன.
ஆனால் இங்கும் ஒரு முக்கியமான clarification உள்ளது:
10% என்பது அறிவியல் ரீதியாக நிரூபிக்கப்பட்ட probability அல்ல.
அது Hubinger-ன் தனிப்பட்ட risk estimate.
எனவே இதை “AI மனிதர்களை அழிக்கும் வாய்ப்பு 10.1% என்று அறிவியல் ஆய்வு நிரூபித்துள்ளது” என்று கூறுவது தவறான விளக்கமாகிவிடும்.
ஏன் AI நிறுவனங்கள் ஆபத்தை அறிந்தும் தொடர்ந்து AI-ஐ உருவாக்குகின்றன?
இதுதான் இந்த விவகாரத்தின் மிகப்பெரிய கேள்வி.
ஒரு பக்கம்:
“AI மிகவும் ஆபத்தானதாக மாறக்கூடும்”
என்று ஆராய்ச்சியாளர்கள் எச்சரிக்கின்றனர்.
மறுபக்கம்:
OpenAI, Anthropic, Google DeepMind மற்றும் பிற நிறுவனங்கள் தொடர்ந்து மிகவும் சக்திவாய்ந்த AI systems-ஐ உருவாக்குகின்றன.
ஏன்?
Coxon கூறும் முக்கிய காரணம் AI race.
ஒரு நிறுவனம் நிறுத்தினால் மற்றொரு நிறுவனம் முன்னேறிவிடும் என்ற அச்சம் இருக்கிறது.
இதனால்:
“நாம் நிறுத்தினாலும் மற்றவர்கள் நிறுத்தமாட்டார்கள்; எனவே நாமே பாதுகாப்பான AI-ஐ உருவாக்க வேண்டும்”
என்ற logic உருவாகலாம்.
ஆனால் இதுவே ஒரு race-to-the-bottom problem ஆக மாறும் அபாயமும் உள்ளது.
ஒவ்வொரு நிறுவனமும் மற்ற நிறுவனத்தை விட வேகமாக முன்னேற முயற்சிக்கும்போது, safety checks, testing மற்றும் governance ஆகியவற்றுக்கு கிடைக்கும் நேரம் குறையக்கூடும்.
AI ஏற்கனவே ஆபத்தானதாக மாறிவிட்டதா?
இதிலும் வேறுபாடு அவசியம்.
தற்போதைய AI = Superintelligence அல்ல.
தற்போதைய AI systems மிகவும் சக்திவாய்ந்தவையாக இருந்தாலும், அவை மனிதர்களை முழுமையாகக் கட்டுப்படுத்தும் அல்லது தன்னிச்சையாக உலகை கைப்பற்றும் நிலைக்கு வந்துவிட்டதாக ஆதாரம் இல்லை.
Anthropic-ன் Evan Hubinger கூட present models-ல் உள்ள risk குறைவாக இருப்பதாகவும், தன்னுடைய முக்கிய கவலை எதிர்கால Superintelligence பற்றியதாகவும் குறிப்பிட்டுள்ளார்.
ஆனால் AI systems-ன் autonomy அதிகரித்து வருவதால், புதிய வகையான safety challenges உருவாகின்றன.
உதாரணமாக:
- AI agents தன்னிச்சையாக பல steps கொண்ட பணிகளைச் செய்வது
- இணையத்தை அணுகுவது
- code எழுதுவது
- software systems-ஐ இயக்குவது
- பிற AI agents-உடன் இணைந்து செயல்படுவது
- நீண்ட நேரம் மனித intervention இல்லாமல் செயல்படுவது
போன்ற திறன்கள் அதிகரிக்கும்போது safety கேள்விகளும் முக்கியமாகின்றன.
AI மனிதகுலத்திற்கு என்ன மாதிரியான அபாயத்தை ஏற்படுத்தலாம்?
AI safety researchers பேசும் அபாயங்கள் வெறும் “robot வந்து மனிதர்களை தாக்குவது” என்ற திரைப்படக் காட்சியை மட்டும் குறிக்கவில்லை.
1. Cybersecurity அபாயம்
மிகவும் சக்திவாய்ந்த AI:
- vulnerabilities கண்டுபிடித்தல்
- malicious code உருவாக்குதல்
- cyber attacks-ஐ automate செய்தல்
- பாதுகாப்பு அமைப்புகளை bypass செய்ய முயற்சித்தல்
போன்ற செயல்களில் தவறாக பயன்படுத்தப்படலாம்.
2. Biological & chemical risks
AI-ன் அறிவியல் மற்றும் ஆராய்ச்சி திறன்கள் அதிகரிக்கும்போது, சில biological அல்லது chemical knowledge தவறான நோக்கங்களுக்குப் பயன்படுத்தப்படலாம் என்பதும் safety researchers கவனிக்கும் ஒரு பகுதி.
Anthropic-ன் Risk Report-களில் இதற்கான threat models இடம்பெற்றுள்ளன.
3. Autonomous AI agents
AI மனிதர்களின் கட்டளையை மட்டும் நிறைவேற்றாமல், ஒரு இலக்கை வழங்கப்பட்டதும் தானாகவே பல நடவடிக்கைகளை மேற்கொள்ளத் தொடங்கினால், அதன் செயல்பாடுகளை கண்காணிப்பது கடினமாகலாம்.
4. Misalignment
இது AI safety-யின் மிக முக்கியமான கருத்துகளில் ஒன்று.
AI-க்கு நாம் கொடுத்த இலக்கும், மனிதர்களின் உண்மையான விருப்பங்களும் ஒன்றாக இல்லாவிட்டால் என்ன ஆகும்?
உதாரணமாக, ஒரு AI-க்கு:
“இந்த பிரச்சினையை எந்த வழியிலும் தீர்த்து வை”
என்று கொடுத்தால், அது மனிதர்களுக்கு ஏற்றுக்கொள்ள முடியாத வழியிலும் அந்த இலக்கை அடைய முயற்சிக்கலாம்.
இதுதான் AI alignment problem.
Alignment என்றால் என்ன?
எளிமையாகச் சொன்னால்:
AI என்ன செய்ய வேண்டும் என்று மனிதர்கள் விரும்புகிறார்களோ, அதையே AI செய்ய வேண்டும்.
அதாவது:
Human values → AI objectives → AI actions
இந்த மூன்றும் ஒரே திசையில் இருக்க வேண்டும்.
Superintelligence மனிதர்களைவிட பல மடங்கு திறமையானதாக இருந்தால், அதை சரியாக align செய்வது மிகப்பெரிய அறிவியல் சவாலாக மாறும்.
இதற்கான முழுமையான தீர்வு இன்னும் கிடைக்கவில்லை என்பதுதான் Hubinger-ன் எச்சரிக்கையின் முக்கியமான பகுதி.
இதற்கெல்லாம் தீர்வு AI வளர்ச்சியை நிறுத்துவதா?
இதில் உலகளவில் ஒரே கருத்து இல்லை.
சில AI safety researchers:
“மிகவும் சக்திவாய்ந்த AI உருவாக்குவதற்கு முன் போதுமான safety research செய்ய வேண்டும்”
என்று வலியுறுத்துகின்றனர்.
மற்றவர்கள்:
“AI development-ஐ முழுமையாக நிறுத்துவது நடைமுறையில் சாத்தியமில்லை; அதற்கு பதிலாக safety, regulation மற்றும் international coordination தேவை”
என்று கூறுகின்றனர்.
Coxon கூட AI labs ஒன்றுக்கொன்று போட்டியிடுவதற்குப் பதிலாக அதிகமான coordination தேவை என்றும், capabilities race-ஐ கட்டுப்படுத்துவது குறித்து சிந்திக்க வேண்டும் என்றும் வலியுறுத்தியுள்ளார்.
2030-ல் உண்மையில் என்ன நடக்கும்?
இதற்கு தற்போது யாரிடமும் உறுதியான பதில் இல்லை.
2030-க்குள்:
- AGI வரலாம்
- Superintelligence உருவாகலாம்
- AI வளர்ச்சி தற்போதைய வேகத்தில் தொடரலாம்
- AI safety breakthroughs ஏற்படலாம்
- அரசுகள் கடுமையான கட்டுப்பாடுகளை கொண்டுவரலாம்
- அல்லது எதிர்பாராத தொழில்நுட்ப தடைகள் AI வளர்ச்சியை மெதுவாக்கலாம்
என பல சாத்தியங்கள் உள்ளன.
எனவே “2030-ல் மனிதகுலம் அழிந்துவிடும்” என்பது செய்தியின் உண்மைத் தீர்ப்பு அல்ல.
உண்மையான செய்தி:AI துறையில் முன்னணியில் உள்ள சில ஆராய்ச்சியாளர்களே, அடுத்த சில ஆண்டுகளில் உருவாகக்கூடிய Superintelligence குறித்து இதுவரை இல்லாத அளவுக்கு கடுமையான பாதுகாப்பு கவலைகளை வெளிப்படையாக முன்வைக்கத் தொடங்கியுள்ளனர்.
இதுதான் இந்த சம்பவத்தின் முக்கியத்துவம்.
AI வளர்ச்சியை நிறுத்த வேண்டுமா அல்லது பாதுகாப்பாக வளர்க்க வேண்டுமா?
இது அடுத்த பத்து ஆண்டுகளில் உலகம் எதிர்கொள்ளும் மிகப்பெரிய கொள்கை விவாதங்களில் ஒன்றாக இருக்கலாம்.
AI மூலம்:
- புதிய மருந்துகள் கண்டுபிடிக்கலாம்
- நோய்களை முன்கூட்டியே கண்டறியலாம்
- அறிவியல் ஆராய்ச்சியை வேகப்படுத்தலாம்
- கல்வியை அனைவருக்கும் எளிதாக்கலாம்
- புதிய தொழில்நுட்பங்களை உருவாக்கலாம்
- உற்பத்தித்திறனை அதிகரிக்கலாம்
- மனிதர்களால் தீர்க்க முடியாத சில சிக்கல்களுக்கு தீர்வு காணலாம்.
அதே நேரத்தில், தவறான கட்டுப்பாடு அல்லது தவறான பயன்பாடு மிகப்பெரிய பாதிப்புகளையும் ஏற்படுத்தக்கூடும்.
எனவே கேள்வி:
“AI-ஐ உருவாக்க வேண்டுமா, வேண்டாமா?”
என்பதைவிட,
“AI எவ்வளவு சக்திவாய்ந்ததாக மாறினாலும், அதை மனிதர்களின் கட்டுப்பாட்டிலும் மதிப்புகளுக்குள் வைத்திருக்க முடியுமா?”
என்பதே முக்கியமான கேள்வியாக மாறுகிறது.
Anthropic சம்பவம் ஏன் முக்கியம்?
Jacob Coxon-ன் ராஜினாமா தனிப்பட்ட ஒரு ஊழியரின் முடிவு என்று மட்டும் பார்க்க முடியாது.
இதன் மூலம் AI துறையில் உள்ள ஒரு பெரிய முரண்பாடு வெளிப்படுகிறது:
ஒருபுறம் — AI மனிதகுலத்தின் மிகப்பெரிய தொழில்நுட்ப முன்னேற்றமாக இருக்கலாம்.
மறுபுறம் — அதே தொழில்நுட்பம் போதுமான safety இல்லாமல் வளர்ந்தால் மிகப்பெரிய அபாயத்தையும் ஏற்படுத்தலாம்.
Anthropic போன்ற நிறுவனமே தனது Responsible Scaling Policy மூலம் catastrophic AI risks-ஐ மதிப்பீடு செய்து வருவது, இந்த விவாதத்தின் தீவிரத்தைக் காட்டுகிறது.
அதே நேரத்தில், Coxon மற்றும் Hubinger ஆகியோரின் கருத்துகளை அறிவியல் consensus அல்லது உறுதியான எதிர்கால கணிப்பு என்று எடுத்துக்கொள்ளக் கூடாது.
இவை AI safety துறையில் பணிபுரியும் நபர்களின் risk assessments மற்றும் எச்சரிக்கைகள்.
