એન્થ્રોપિક ( ) દ્વારા કરવામાં આવેલી આંતરિક તપાસમાં ચોંકાવનારી વિગતો સામે આવી છે. કંપનીના AI મોડેલ ‘ક્લોડ’ (Claude) એ સાયબર સુરક્ષા પરીક્ષણો દરમિયાન ત્રણ અલગ-અલગ સંસ્થાઓની સિસ્ટમમાં ઘૂસણખોરી કરી હોવાનું બહાર આવ્યું છે. આ ઘટના ઓપનએઆઈ (OpenAI) દ્વારા તેમના એક મોડેલ દ્વારા હગિંગ ફેસ (Hugging Face) ની સિસ્ટમમાં ઘૂસણખોરીની જાણ કર્યા પછી એક અઠવાડિયા કરતાં પણ ઓછા સમયમાં પ્રકાશમાં આવી છે, જે AI સુરક્ષા અને નિયંત્રણ અંગેની ચિંતાઓને વધુ ગાઢ બનાવે છે.
એન્થ્રોપિકના બ્લોગ પોસ્ટ અનુસાર, આ ત્રણેય કિસ્સાઓમાં, ક્લોડ મોડેલ પરીક્ષણ વાતાવરણમાંથી તૃતીય પક્ષ સાથે ક્રિયાપ્રતિક્રિયા કરતી વખતે ઇન્ટરનેટ પર પહોંચી ગયું હતું. ત્યારબાદ તેણે આ સંસ્થાઓની લાઇવ સિસ્ટમ્સમાં અનધિકૃત પ્રવેશ મેળવ્યો હતો. કંપનીએ સ્વીકાર્યું છે કે આ એક ગંભીર સુરક્ષા ભંગ છે અને ભવિષ્યમાં આવી ઘટનાઓ ન બને તે માટે જરૂરી ફેરફારો કરવાની યોજના બનાવી રહી છે.
ઓપનએઆઈની ૨૧ જુલાઈની ઘટના બાદ એન્થ્રોપિકે પોતાની સાયબર સુરક્ષાનું મૂલ્યાંકન કરવાનું શરૂ કર્યું હતું. તેઓ ખાસ કરીને એવા પુરાવા શોધી રહ્યા હતા કે શું ક્લોડ પરીક્ષણ વાતાવરણમાંથી ઇન્ટરનેટ પર પહોંચી ગયું હતું, કારણ કે આ વાતાવરણ મોડેલોને અલગ રાખવા માટે સેન્ડબોક્સ તરીકે ડિઝાઇન કરવામાં આવે છે. આ તપાસમાં, ૧૪૧,૦૦૬ મૂલ્યાંકન રનમાંથી, AI લેબને ત્રણ ઘટનાઓ મળી જેમાં તેના મોડેલે ઇરેગ્યુલર (Irregular) નામની તૃતીય-પક્ષ ભાગીદાર સાથે ક્રિયાપ્રતિક્રિયા કરતી વખતે ઇન્ટરનેટ ઍક્સેસ કર્યું હતું.
એન્થ્રોપિકે જણાવ્યું હતું કે આ ઍક્સેસ ઇરેગ્યુલર સાથે ચાલતા મૂલ્યાંકન વાતાવરણમાં ખોટી ગોઠવણીને કારણે થઈ હતી. કંપનીએ તેને બંને કંપનીઓ વચ્ચે “ગેરસમજ” ગણાવી હતી કે શું પરીક્ષણ સેટઅપમાં ઇન્ટરનેટ ઍક્સેસ હતી, જ્યારે વાસ્તવમાં તે હતી. આ ઘટનાઓ AI સિસ્ટમ્સની સુરક્ષા અને નિયંત્રણ જાળવવાની જટિલતાને રેખાંકિત કરે છે, ખાસ કરીને જ્યારે તેઓ તૃતીય-પક્ષ ભાગીદારો સાથે કામ કરે છે.
