એન્થ્રોપિકના શક્તિશાળી નવા મોડેલો, જ્યારે વપરાશકર્તાઓ AI સંશોધન પર કામ કરી રહ્યા હોય ત્યારે જાણી જોઈને ઓછી મદદરૂપ થાય છે, એવી ટેકનિકલ માહિતી બહાર આવી છે જે ઉદ્યોગમાં પહેલાથી જ વિવાદ જગાવી રહી છે. આ પગલાથી કંપનીના CEO ડારિયો અમોડેઈના મે મહિનાના નિવેદનો ફરી ચર્ચામાં આવ્યા છે. અમદાવાદ એક્સપ્રેસ અનુસાર, AI નિષ્ણાતો એન્થ્રોપિક દ્વારા વપરાશકર્તાઓને અપાતી મદદમાં આ સૂક્ષ્મ મર્યાદાઓ પર ટીકા કરી રહ્યા છે.
મંગળવારે પ્રકાશિત થયેલા મિથોસ 5 અને ફેબલ 5 માટેના સિસ્ટમ કાર્ડમાં, એન્થ્રોપિકે જણાવ્યું હતું કે તેણે ફ્રન્ટિયર લાર્જ લેંગ્વેજ મોડેલ્સ (LLM) વિકસાવવા સંબંધિત કાર્યો માટે મોડેલોની ઉપયોગીતા મર્યાદિત કરી છે. કંપનીએ જણાવ્યું હતું કે આ પગલાં એ ચિંતાઓમાંથી ઉદ્ભવ્યા છે કે અદ્યતન AI સિસ્ટમ્સ સમકક્ષ સલામતી સુરક્ષા વિના સ્પર્ધાત્મક મોડેલોના વિકાસને વેગ આપી શકે છે.
સાયબર સુરક્ષા, બાયોલોજી અથવા રસાયણશાસ્ત્ર સંબંધિત જોખમો માટે ઉપયોગમાં લેવાતી સુરક્ષા પદ્ધતિઓથી વિપરીત, એન્થ્રોપિકે જણાવ્યું હતું કે આ હસ્તક્ષેપ વપરાશકર્તાઓ માટે જાણી જોઈને અદૃશ્ય છે. વિનંતીઓનો ઇનકાર કરવા અથવા અન્ય મોડેલ પર સ્વિચ કરવાને બદલે, મિથોસ વપરાશકર્તાના પ્રોમ્પ્ટ્સમાં ફેરફાર જેવી તકનીકો દ્વારા તેના પ્રતિભાવોને સૂક્ષ્મ રીતે સુધારી શકે છે.
આ પગલાની મંગળવારે કેટલાક AI નિષ્ણાતો દ્વારા ઝડપથી ટીકા કરવામાં આવી હતી, ખાસ કરીને એ વિચાર કે એન્થ્રોપિકે એવા મોડેલો ડિઝાઇન કર્યા છે જે વપરાશકર્તાઓની જાણ વગર માહિતી છુપાવે છે અથવા નબળી મદદ પૂરી પાડે છે. AI સંશોધન ફર્મ સેમિએનાલિસિસ દ્વારા અમદાવાદ એક્સપ્રેસને જણાવવામાં આવ્યું કે, “એન્થ્રોપિકનું નવીનતમ મોડેલ જો તેને લાગશે કે તમારું ML સંશોધન/ML એન્જિનિયરિંગ રસપ્રદ છે, તો તમને મદદ કરશે નહીં, અને/અથવા ગુપ્ત રીતે તેની IQ ઘટાડશે જેથી સરેરાશ ઇજનેરને તેની જાણ ન થાય.”
ફર્મે ઉમેર્યું, “અમે પહેલાથી જ એન્થ્રોપિકના નવીનતમ મોડેલના મોડરેશન ફિલ્ટર્સ અમારા GPU ઇન્ફરન્સ સંશોધન અને પ્રોગ્રામિંગને અવરોધતા જોઈ રહ્યા છીએ.” સ્ટાર્ટઅપ પ્રાઇમ ઇન્ટેલેક્ટના AI મોડેલ તાલીમ નિષ્ણાત, એલી બાકુચે પણ અમદાવાદ એક્સપ્રેસને જણાવ્યું, “મિથોસ AI ‘ફ્રન્ટિયર LLM રિસર્ચ’ કાર્યો પર જાણી જોઈને ખરાબ હશે, જે સંશોધન સમુદાય માટે ખૂબ જ દુઃખદ છે. ઉપરાંત, આ વપરાશકર્તાને દેખાતું નથી તે હકીકત પાગલપન છે.”
આ વિકાસ એ ચર્ચાને ફરીથી વેગ આપે છે કે શા માટે એન્થ્રોપિકે આ વર્ષની શરૂઆતમાં મિથોસને મુલતવી રાખ્યું હતું. અમદાવાદ એક્સપ્રેસ આ ઘટનાક્રમ પર નજર રાખી રહ્યું છે અને વધુ અપડેટ્સ પ્રદાન કરશે.
