OpenAI ஆல் சமீபத்தில் பணிநீக்கம் செய்யப்பட்ட மூன்று ஊழியர்கள், பாதுகாப்பு பற்றி பேசியதற்காக நிறுவனம் தங்களுக்கு தண்டனை வழங்கியதாக குற்றம் சாட்டியுள்ளனர். ஓப்பன்ஏஐ குற்றச்சாட்டுகளை மறுக்கிறது, முக்கியத் தரவை தவறாகக் கையாண்டதற்காக அவை தள்ளுபடி செய்யப்பட்டதாகக் கூறுகிறது.
கெட்டி இமேஜஸ் வழியாக ஆண்ட்ரே இவனோவ்/ஏஎஃப்பி
தலைப்பை மறை
கெட்டி இமேஜஸ் வழியாக ஆண்ட்ரே இவனோவ்/ஏஎஃப்பி
மூன்று முன்னாள் ஓபன்ஏஐ ஊழியர்கள், தொழில்நுட்பத்தை பொறுப்புடன் மேம்படுத்தும் செயற்கை நுண்ணறிவுத் துறையின் திறனைப் பற்றிய தீவிரமான பொது ஆய்வுக்கு மத்தியில், அவர்கள் பணிநீக்கம் செய்யப்பட்ட சூழ்நிலைகள் மற்றும் பாதுகாப்பிற்கான நிறுவனத்தின் அர்ப்பணிப்பு குறித்து அக்கறை கொண்டுள்ளனர்.
முன்னாள் பணியாளர்களான மிகிதா பலேஸ்னி, டோமெக் கோர்பக் மற்றும் ஜாஸ்மின் வாங் ஆகியோர், கடந்த வாரம் ஓபன்ஏஐ தங்களை சாக்குப்போக்குகளின் கீழ் பணிநீக்கம் செய்ததாகவும், பாதுகாப்பு பற்றி பேசியதற்காக அல்லது வெளிநாட்டு ஆராய்ச்சியாளர்களுடன் பணிபுரிந்ததற்காக தண்டிக்கப்பட்டதாகவும் கூறினார். பிந்தையவரின் பாதுகாப்பு கடமைகளை நிறுவனம் கைவிடக்கூடும் என்றும் அவர்கள் கவலை தெரிவித்தனர்.
OpenAI இந்த உரிமைகோரல்களை பலமுறை மறுத்துள்ளது. ரகசிய தகவல்களை தவறாக கையாண்டதற்காக ஊழியர்கள் பணிநீக்கம் செய்யப்பட்டதாகவும், பாதுகாப்புக்கான உறுதிப்பாட்டை நிறுவனம் கைவிடவில்லை என்றும் அது கூறியது.
AI தொழில்துறை மற்றும் குறிப்பாக OpenAI க்கு ஒரு பதட்டமான நேரத்தில் இந்த சர்ச்சை வருகிறது. கோடையில், OpenAI முகவர்கள் நிறுவனங்களை ஹேக் செய்து, அனுமதியின்றி ஒருவருக்கொருவர் தொடர்புகொண்டு தங்கள் கண்காணிப்பை மறைக்க முயன்றனர். சாட்போட்களைப் போலன்றி, முகவர்கள் நீண்ட காலத்திற்கு சுயாதீனமாக பணிகளைச் செய்யக்கூடிய AI அமைப்புகளாகும்.
மிகவும் தீவிரமான ஹேக், ஹக்கிங் ஃபேஸ் என்ற மென்பொருள், போட்டியாளரான மானுடவியல் ஆராய்ச்சியாளரை ராஜினாமா செய்யத் தூண்டியது, அவர் தொழில்நுட்பத்தின் பாதையைப் பற்றி கடுமையான எச்சரிக்கைகளை வெளியிட்டார். ராஜினாமா சட்டமியற்றுபவர்கள் உட்பட AI புலத்திற்கு வெளியே உள்ள நபர்களிடமிருந்து கவனத்தை ஈர்த்தது. சில உயர் AI நிறுவன நிர்வாகிகள் உட்பட பலர், மிகவும் மேம்பட்ட AI இன் வளர்ச்சியை மெதுவாக்குவது உட்பட, பேரழிவைத் தடுக்க பல்வேறு வழிகளைக் கோரியுள்ளனர்.
இதற்கிடையில், OpenAI சமீபத்திய மாதங்களில் அதன் முகவர்களின் செயல்பாடுகளை மதிப்பாய்வு செய்து, டிஜிட்டல் உள்கட்டமைப்பு சமரசம் செய்யப்பட்ட நிறுவனங்களுக்கு அறிவிக்கிறது.
பாதுகாப்புக் கவலைகளுக்குப் பதிலளிக்கும் வகையில், AI அமைப்புகள் மற்றும் டெவலப்பர் நடைமுறைகளின் பாதுகாப்பை மதிப்பிடும் மூன்றாம் தரப்பு மதிப்பீட்டாளர்களுக்கான அணுகலை விரிவுபடுத்துவதில் போட்டியாளரான ஆந்த்ரோபிக் நிறுவனத்தைப் பின்பற்றும் என்று OpenAI CEO சாம் ஆல்ட்மேன் செப்டம்பர் 12 அன்று தெரிவித்தார்.
கடந்த வாரம் OpenAI ஆல் பணிநீக்கம் செய்யப்பட்ட மூன்று பணியாளர்கள் AI பாதுகாப்பு மற்றும் மனித நோக்கங்கள் மற்றும் மதிப்புகளைப் பின்பற்றுவதற்கான நிறுவனத்தின் மாதிரிகளில் கவனம் செலுத்தும் குழுக்களில் பணிபுரிந்தனர். அவர்களில் இருவர் ஹக்கிங் ஃபேஸ் ஹேக்கிங் விசாரணையில் ஈடுபட்டுள்ளனர்.
இந்த வாரம் X இல் வெளியிடப்பட்ட, பணிநீக்கம் செய்யப்பட்ட ஊழியர்கள் OpenAI இன் பாதுகாப்புத் தலைமைக்கு எழுதிய கடிதத்தில், மூன்றாம் தரப்பு ஆராய்ச்சியாளர்களுடன் இணைந்து பணியாற்றுவதற்கும், மாதிரி நடத்தையைக் கட்டுப்படுத்தும் மனித திறனைப் பேணுவதற்கும், உள் மற்றும் வெளிப்புற பாதுகாப்பு ஆராய்ச்சியாளர்களுக்கு இடையே “திறந்த மற்றும் வெளிப்படையான உரையாடல் கலாச்சாரத்தை தொடர்ந்து ஆதரிப்பதற்கும்” நிறுவனத்தை வலியுறுத்தியுள்ளனர். அவர்களின் துப்பாக்கிச் சூடு அவர்களின் முன்னாள் OpenAI சகாக்களுக்கு குளிர்ச்சியான விளைவை ஏற்படுத்தும் என்றும் அவர்கள் எச்சரித்தனர்.
X இல் OpenAI வெளியிட்ட அறிக்கையில், மூன்றாம் தரப்பு மதிப்பீட்டாளர்களை ஈடுபடுத்துவதில் இன்னும் உறுதியுடன் இருப்பதாக நிறுவனம் கூறியது. அவர்கள் தொழிலாளர்களின் பரிந்துரைகளை நிராகரித்தனர். “முக்கியமான தகவல்களைக் கையாள்வதில் தெளிவான கொள்கையை மீறியதால்” கடந்த வாரம் மூவரும் பணிநீக்கம் செய்யப்பட்டதாக நிறுவனம் கூறியது.
முன்னாள் ஊழியர்கள் தங்கள் பணிநீக்கத்திற்கான OpenAI இன் விளக்கத்தை மறுத்துள்ளனர். NPR இன் நேர்காணல் கோரிக்கைகளுக்கு இருவரும் பதிலளிக்கவில்லை.
“வெளியேறும் அழைப்பில், நான் மூன்றாம் தரப்பு பாதுகாப்பு அமைப்புகளுடன் அதிகமாகப் பேசியதால் OpenAI என்னை நம்பவில்லை என்று கூறப்பட்டது, அதாவது நான் நிறுவனத்தை அம்பலப்படுத்தினேன். [intellectual property]. நிறுவனத்தின் ஐபியை நான் ஒருபோதும் பகிர்ந்து கொள்ளவில்லை” என்று வியாழன் அன்று X இல் பேல்ஸ்னி எழுதினார். ஓபன்ஏஐயின் ஹக்கிங் ஃபேஸ் ஏஜெண்டுகளை ஹேக்கிங் செய்வது தொடர்பான விசாரணையில் தான் ஈடுபட்டதாக அவர் கூறினார்.
“OpenAI க்கு குறிப்பிட்ட கவலைகள் இருந்தால், அவர்களை நேரடியாக எங்களுக்கு எழுதுமாறு நான் அவர்களை ஊக்குவிக்கிறேன். எங்கள் துப்பாக்கிச் சூடு ஒரு சாக்காக இருந்ததால் அவர்கள் அவ்வாறு செய்ய மாட்டார்கள் என்று நம்புகிறேன்,” என்று Balesny தொடர்ந்தார்.
AI கட்டுப்பாட்டை இழக்கும் அபாயத்தை மதிப்பிடுவதில் கவனம் செலுத்தும் ஒரு இலாப நோக்கற்ற அமைப்பான மாடல் த்ரெட் அசெஸ்மென்ட் அண்ட் ரிசர்ச் (METR) உடனான உறவைத் துண்டிக்க OpenAI ஃபயர்ஸ்டார்மை ஒரு சாக்காகப் பயன்படுத்தும் என்று அவர் கவலை தெரிவித்தார். METR மற்றும் மற்றொரு AI பாதுகாப்பு ஆராய்ச்சி நிறுவனமான Redwood Research இன் ஆராய்ச்சியாளர்களை, Hugging Face hack தொடர்பான உள் பதிவுகளை ஆய்வு செய்ய OpenAI அனுமதித்தது.
பணிநீக்கம் செய்யப்பட்ட இரண்டாவது OpenAI ஊழியர், கோர்பக் METR/ரெட்வுட் ஆராய்ச்சிக்கான தொழில்நுட்பப் புள்ளியாக இருந்தார். “METR உடனான எனது தொடர்புகளின் காரணமாக நான் பணிநீக்கம் செய்யப்பட்டதாக வாய்மொழியாக என்னிடம் கூறப்பட்டது. நான் என்ன சொன்னேன் அல்லது செய்தேன் அல்லது எப்போது என்ற விவரங்கள் எதுவும் இல்லை. வேறு எந்த ஆதாரமும் வழங்கப்படவில்லை மற்றும் எதுவும் எழுதப்படவில்லை” என்று Balesny இன் கவலைகள் குறித்து கோர்பாக் எழுதினார்.
ஹக்கிங் ஃபேஸ் ஹேக்கைத் தொடர்ந்து METR மற்றும் Redwood Research இன் அறிக்கை, தாக்குதலின் நோக்கம் மற்றும் முகவர்கள் எந்த அளவிற்கு பொருத்தமற்ற வழிகளில் செயல்பட்டார்கள் என்பதை வெளிச்சம் போட்டுக் காட்டுகிறது. அறிக்கையின் ஆசிரியர்கள் விசாரணையை “சுருக்கமாக” அழைத்தனர், மேலும் AI பாதுகாப்புத் துறையில் உள்ள பலர் AI நிறுவனங்களில் சுயாதீன மதிப்பீட்டாளர்களுக்கு அதிக அணுகலைக் கோரினர், இது போன்ற சம்பவங்கள் அல்லது பிற பாதுகாப்புக் கவலைகள் முழுமையாக விசாரிக்கப்படுவதை உறுதிசெய்யும்.
NPR க்கு அளித்த அறிக்கையில், OpenAI ஊழியர் பணிநீக்கங்கள் குறித்து கருத்து தெரிவிக்க METR மறுத்துவிட்டது.
கடந்த வாரம் பணிநீக்கம் செய்யப்பட்ட மூன்றாவது OpenAI பணியாளரான வாங், “பேசிங்” என்ற வார்த்தையை உருவாக்கினார், இது பாதுகாப்பை நிவர்த்தி செய்வதற்கான மேம்பட்ட AI அமைப்புகளின் வளர்ச்சியை மெதுவாக்கும் ஒரு வழியை விவரிக்கிறது, அவரும் இரண்டு சக ஊழியர்களும் OpenAI இன் பாதுகாப்புத் தலைமைக்கு அனுப்பிய கடிதத்தின்படி. ஹக்கிங் ஃபேஸ் ஹேக்கைத் தொடர்ந்து, ஜூலையில் முன்னணி AI நிறுவனங்களின் ஆயிரத்துக்கும் மேற்பட்ட ஊழியர்களால் கையெழுத்திடப்பட்ட, அத்தகைய மந்தநிலைக்கு அழைப்பு விடுக்கும் திறந்த கடிதத்தில் இந்த வார்த்தை உருவாக்கப்பட்டது.
ஒரு நிர்வாகியின் மின்னஞ்சலை அணுகியதற்காக தான் நீக்கப்பட்டதாக X இல் வாங் எழுதினார். ஆனால் பணி நிமித்தம் கடந்த காலத்தில் இன்பாக்ஸை அணுகியதாகவும், அவ்வாறு செய்ய ஐடியைப் பெற முடியவில்லை என்றும் அதனால் தனக்கு அணுகல் தேவையில்லை என்றும் கூறினார்.
“எங்கள் வேலைகளை நிறுத்துவதற்கு நாங்கள் கூறப்பட்ட காரணங்கள் ஒன்றும் சேர்க்கப்படவில்லை. எங்களை இழிவுபடுத்துவதற்காக மக்கள் இப்போது தெளிவற்ற வதந்திகளைக் கூறுவதாக நாங்கள் கேள்விப்பட்டிருக்கிறோம்,” என்று வாங் கூறினார். “OpenAI இல் இன்னும் அனைவருக்கும் செய்தி தெளிவாக உள்ளது: கவலைகளை எழுப்புங்கள் அல்லது வெளிப்புற பாதுகாப்பு குழுக்களுடன் ஈடுபடுங்கள், எந்த காரணமும் இல்லாமல் நீங்கள் அடுத்த வரிசையில் இருக்க முடியும்.”
பணிநீக்கம் செய்யப்பட்ட மூன்று ஊழியர்களும் ஒன்றுக்கு மேற்பட்ட முறை கொள்கைகளை மீறியதாகவும், தகவல்களை தவறாகக் கையாள்வது வெளிப்புற மதிப்பீட்டுக் குழுவுடனான அவர்களின் பணியின் எல்லைக்கு அப்பாற்பட்டது என்றும் OpenAI NPR க்கு ஒரு அறிக்கையில் தெரிவித்துள்ளது.
மூன்று முன்னாள் ஊழியர்கள் சமூக ஊடகங்களுக்குச் செல்வதற்கு முன்பு புதன்கிழமை நிறுவனத்துடன் பகிரப்பட்டதாக பெயரிடப்படாத ஆராய்ச்சித் தலைவரின் உள் குறிப்பையும் OpenAI பகிர்ந்து கொண்டது.
ஒரு குறிப்பில், மூன்று முன்னாள் ஊழியர்களின் பரிந்துரைகளுடன் நிறுவனம் “வலுவாக” உடன்படுகிறது என்று ஆராய்ச்சி நிர்வாகி கூறினார். “கவலைகளை எழுப்பியதற்காக நாங்கள் ஊழியர்களை பணிநீக்கம் செய்ய மாட்டோம்” என்று நிர்வாகி எழுதினார்.
“OpenAI இன் நிர்வாகம் அவர்கள் எங்கள் கடிதத்தை முழுமையாக ஒப்புக்கொள்கிறார்கள் என்று கூறுகிறது. இது எப்படி விளையாடுகிறது என்பதைப் பார்ப்போம்” என்று X இடம் கூறினார்.
