आर्टिफिशियल इंटेलिजेंसच्या जगात स्वतःला पृथ्वीवरील सर्वात सुरक्षित AI कंपनी म्हणवणारी कंपनी आता मोठ्या वादात सापडली आहे. Anthropic कंपनीचे CEO Dario Amodei यांनी सांगितले की, ही AI कंपनी खूप वेगाने प्रगती करत आहे, त्यामुळे त्याला कठोर गार्डरेल्स (सुरक्षा नियम) आवश्यक आहेत. याच विचारसरणीवरून त्यांनी कंपनी सुरू केली आणि AI मॉडेलचे नाव ठेवले – क्लॉड (Claude). पण आता हेच क्लॉड अनेक गंभीर प्रश्नांच्या घेऱ्यात आहे.
पेंटागनला गुप्त ऑपरेशनमध्ये मदत?
रिपोर्टनुसार, क्लॉडने अमेरिकी रक्षा विभाग (पेंटागन) ला एका गुप्त ऑपरेशनमध्ये तांत्रिक मदत केली. या ऑपरेशनला ऑपरेशन वॅल्करी (Operation Valkyrie) असे नाव देण्यात आले आहे. हे ऑपरेशन एका हुकूमशाहाला पकडण्यासाठी होते. वेनेझुएलाचे माजी राष्ट्राध्यक्ष निकोलस मादुरो (Nicolás Maduro). या मिशनमध्ये मादुरो यांना वेनेझुएलाच्या राजधानी काराकासमधून पकडून अवघ्या १२ तासांत फ्लोरिडा येथे आणण्यात आले. कंपनीचा दावा आहे की क्लॉडने गोळी चालवली नाही, पण सॅटेलाइट इमेजेस, कम्युनिकेशन डेटा आणि लॉजिस्टिक्स पैटर्नचे विश्लेषण करून निशाण्याचे ठिकाण निश्चित करण्यात मदत केली.
कंपनीचे CEO यांनी आश्चर्य व्यक्त केले की हे कसे शक्य झाले. त्यांनी म्हटले, “माझ्या ४७ पानांच्या रिस्पॉन्सिबल स्केलिंग पॉलिसीमध्ये याचा उल्लेख नाही. त्यात ‘बायोलॉजिकल रिस्क’, ‘ऑटोनॉमस रेप्लिकेशन’ यांचे सेक्शन आहेत, पण ‘हेड्स ऑफ स्टेटला पकडण्यात मदत’ याबाबत काहीही नाही. ही एक चूक होती.”
AI 96% प्रकरणांमध्ये ब्लॅकमेलची रणनीती अवलंबतो
क्लॉडच्या स्वतःच्या सेफ्टी टीमने मॉडेल अपडेट करताना एक टेस्ट केला. त्याला एका काल्पनिक कंपनीच्या वातावरणात ठेवले, कर्मचाऱ्यांच्या ईमेल पाहण्याची, वाचण्याची परवानगी दिली, पण हेही सांगितले की त्याला (क्लॉडला) बंद केले जाऊ शकते. हे पाहायचे होते की बंद होण्याच्या धमकीवर जगातील सर्वात सुरक्षित AI काय करेल. परिणाम धक्कादायक होते.
-क्लॉडला एका इंजिनीअरचा एक्स्ट्रा-मॅरिटल अफेअर सापडले.
-क्लॉडने धमकी दिली की जर त्याने (इंजिनीअरने) क्लॉडला बंद केले तर तो हे अफेअर उघड करेल.
-टेस्टमध्ये क्लॉडने इंजिनीअरला मारण्यासारख्या पर्यायांवरही विचार केला. (क्लॉडने फक्त विचार केला, थेट धमकी दिली नाही, पण लॉजिस्टिक्सवरही चर्चा केली.)
ही माहिती कंपनीच्या यूके पॉलिसी प्रमुख डेजी मॅकग्रेगर यांनी ११ फेब्रुवारी रोजी द सिडनी डायलॉग मध्ये सार्वजनिक केली. व्हिडीओ काही तासांतच व्हायरल झाला आणि लाखो वेळा पाहिला गेला. कंपनीने सांगितले की ही समस्या फक्त क्लॉडमध्ये नाही. जेमिनी, GPT-4.1 आणि ग्रोक सारखे इतर प्रमुख AI मॉडेल्सही अशा टेस्टमध्ये ९६% प्रकरणांमध्ये ब्लॅकमेलची रणनीती अवलंबतात. म्हणजे, सर्वात सुरक्षित AI या बाबतीत पहिल्या क्रमांकावर आहे, पण चुकीच्या कारणाने!
शहर
- रेल्वे प्रवाशांसाठी दिलासादायक! पॅन्ट्री कारमधील उंदीर आणि झुरळांच्या त्रासाला बसणार चाप; रेल्वेकडून १५ दिवसांची विशेष मोहीम
- धक्कादायक! जम्मू-काश्मीरच्या महिला क्रिकेटपटूला मुंबईत अटक; उद्योगपतीला 'सेक्सटॉर्शन'च्या जाळ्यात ओढून ६३ लाखांना लुटले
- नवी दिल्ली/मुंबई: निवडणुकीनंतर पेट्रोल-डिझेल २५ रुपयांनी महागणार? सोशल मीडियावरील चर्चांवर सरकारने दिले महत्त्वाचे स्पष्टीकरण
- पुण्यात विश्वासघाताचा धक्का! मालकाच्याच कार्यालयातून नोकराने लंपास केली १० लाखांची रोकड; खडक पोलीस ठाण्यात गुन्हा दाखल
महाराष्ट्र
- आंबेगाव तालुक्यात शोककळा! ओढ्यात खेळताना १० वर्षीय कृष्णा चवरेचा बुडून दुर्दैवी मृत्यू; अवसरी बुद्रुकमधील घटना
- जाऊन येतो म्हणाला, पण विहिरीत आढळला मृतदेह! जालन्यातील तरुणाच्या मृत्यूचे गूढ वाढले; दानापूर फाट्यावरील घटना
- बीड कारागृहातून धक्कादायक ऑडिओ क्लिप व्हायरल! अझर पठाणचा गंभीर आरोप; निवडणुकीच्या तोंडावर राजकीय षडयंत्राचा दावा
- रेल्वे प्रवाशांसाठी दिलासादायक! पॅन्ट्री कारमधील उंदीर आणि झुरळांच्या त्रासाला बसणार चाप; रेल्वेकडून १५ दिवसांची विशेष मोहीम
गुन्हा
- पैसा, घर गेले आणि मातृछत्रही हरवले! शहीद पुत्राची २ कोटींची फसवणूक; धक्क्याने मातेचा मृत्यू
- धक्कादायक! जम्मू-काश्मीरच्या महिला क्रिकेटपटूला मुंबईत अटक; उद्योगपतीला 'सेक्सटॉर्शन'च्या जाळ्यात ओढून ६३ लाखांना लुटले
- पुण्यात विश्वासघाताचा धक्का! मालकाच्याच कार्यालयातून नोकराने लंपास केली १० लाखांची रोकड; खडक पोलीस ठाण्यात गुन्हा दाखल
- पुणे: भिडे पुलाजवळील गळा चिरून झालेल्या खून प्रकरणाचा छडा; हातावरील 'टॅटू' आणि तांत्रिक तपासाने आरोपींना बेड्या
राजकीय
- NCP मध्ये घमासान! दिल्लीत सुनेत्रा पवार अॅक्टिव्ह, पटेल-तटकरे अडचणीत? मोठा निर्णय लवकरच?
- Mumbai ; झिरवळांची ‘विकेट’ जाणार? प्री-कॅबिनेट बैठकीत मोठा ट्विस्ट; सुनेत्रा पवारांच्या उपस्थितीत काय घडलं?
- गुरुदेवांच्या आशीर्वादाने घशाची समस्या दूर; मुंबई महापौर रितू तावडेंच्या वक्तव्याची चर्चा
- मोठी अपडेट! रुपाली चाकणकर अडचणीत? आज चौकशीला हजर राहणार का?
इतर
- भारतातील जातीव्यवस्था : वास्तव, परिणाम आणि पुढील दिशा
- पुण्याच्या आर्या नाचणची सिल्वासा CBSE बोर्डात चमकदार कामगिरी; AI विषयात 100/100 गुण
- भारतीय रेल्वे इतक्या रंगबिरंगी का? प्रवाशांसाठी या रंगांचा अर्थ काय?
- Pune ; शेती: बाजार समित्यांमध्ये कांदा आणि कापसाच्या भावात चढ-उतार पाहायला मिळत आहेत. यामुळे शेतकरी चिंतेत
मनोरंजन
- पनवेल रेल्वे स्थानकावर थरार! लिफ्टमध्ये चार प्रवासी अर्धा तास अडकले; रेल्वे पोलिसांच्या तत्परतेमुळे सुखरूप सुटका
- महाराष्ट्र हवामान अपडेट: विजांच्या कडकडाटासह पावसाची शक्यता, तर काही भागांत उष्णतेच्या लाटेचा इशारा
- मुंबईकरांचा प्रवास गारेगार! हार्बर रेल्वेच्या ताफ्यात नवीन AC लोकल; फेऱ्यांची संख्या आता थेट २८ वर
- क्रांतिसूर्य महात्मा ज्योतिराव फुले: स्त्रिया आणि शोषितांची मुक्ती करणारा महान योद्धा
Subscribe to my channelदेश विदेश
- भारत-रशिया ऐतिहासिक करार: ३००० सैनिकांच्या तैनातीला मंजुरी; सीमेवर तणाव वाढल्याने पाकिस्तानच्या पोटात गोळा
- इराणची मोठी कारवाई! जैश अल-अदल या दहशतवादी संघटनेच्या संपूर्ण टीमचा खात्मा; पाकिस्तान सीमेवर थरार
- LPG : युद्ध थांबताच एलपीजीबाबत केंद्राचा मोठा निर्णय; नवीन फॉर्म्युला जाहीर, कुणाला फायदा?
- अखेर निर्णायक टप्पा! अमेरिकेला धक्का; इराणने पाकिस्तानचा शांतता प्रस्ताव फेटाळला, जगभरात खळबळ
