ગુગલની ગેમ-ચેન્જિંગ AI-જનરેટેડ સામગ્રીને પારખવાની ટેક્નોલોજી

કંપનીના એક્ઝિક્યુટિવ દ્વારા વિશ્વાસપાત્ર માહિતીના મહત્વ પર ભાર મૂકતા, AI-નિર્મિત સામગ્રીને શોધવાની કંપનીની યોજનાઓનું અનાવરણ કરવામાં આવ્યું હોવાથી અધિકૃતતા પ્રત્યે Googleની પ્રતિબદ્ધતા ચમકે છે.

ગુગલની ગેમ-ચેન્જિંગ AI-જનરેટેડ સામગ્રીને પારખવાની ટેક્નોલોજી

ગૂગલ એઆઈ-જનરેટેડ સિન્થેટીક મીડિયાને ઓળખવા માટે સિસ્ટમ્સ પર કામ કરી રહ્યું છે જે રાજકીય ખોટી માહિતી સામે લડવાના તેના પ્રયત્નોનો પણ એક ભાગ હશે, કંપનીના ટોચના એક્ઝિક્યુટિવે ગુરુવારે જણાવ્યું હતું કે, આ તેના ઉત્પાદનોમાં લાગુ કરવામાં આવશે અને સંભવિતપણે વ્યાપક ઉપયોગ માટે ઓફર કરવામાં આવશે. ઉદ્યોગમાં

આ ટિપ્પણીઓ ખોટી માહિતી માટે આર્ટિફિશિયલ ઇન્ટેલિજન્સ-જનરેટેડ ટેક્સ્ટ અને ડીપફેક્સના ઉપયોગ પર વધતી ચિંતાઓની પૃષ્ઠભૂમિ સામે આવે છે, ખાસ કરીને ચોક્કસ કેસના પ્રકાશમાં જ્યારે સરકાર સામે વિરોધ કરી રહેલા એથ્લેટ્સને વાસ્તવિક દેખાતી મોર્ફ કરેલી છબીઓ સાથે નિશાન બનાવવામાં આવ્યા હતા.

આ સિસ્ટમો, ટ્રસ્ટ અને સલામતી માટે Google ના વાઇસ પ્રેસિડેન્ટ, લૌરી રિચાર્ડસને, પત્રકારોના બંધ જૂથ સાથેની વાતચીત દરમિયાન જણાવ્યું હતું કે, તેના પોતાના ઉત્પાદનો, નવી પારદર્શિતા આવશ્યકતાઓ અને મશીન-લર્નિંગ ક્લાસિફાયર માટે હજુ સુધી લોન્ચ થનારી વોટરમાર્કિંગ ટેક્નોલોજીનો સમાવેશ થાય છે. અન્ય કંપનીઓના ટૂલ્સ દ્વારા જનરેટ કરાયેલ સિન્થેટિક મીડિયા શોધી શકે છે.

“અમે I/O [મે મહિનામાં આયોજિત Google ની ડેવલપર કોન્ફરન્સ]માં બે મોટી જાહેરાતો શેર કરી. એક એ છે કે અમે અમારા તમામ ઉત્પાદનોને વોટરમાર્ક કરવા માટે પ્રતિબદ્ધ છીએ જેથી કરીને લોકો જોઈ શકે કે શું તે Google પોતે [સામગ્રી] બનાવી રહ્યું છે કે કેમ… અમે હજી સુધી તેના પર સ્પષ્ટતા આપી નથી, પરંતુ તે ચાલુ છે. અને બીજું એ છે કે અમે છબીઓ અને ટેક્સ્ટને મેટાડેટા પ્રદાન કરીએ છીએ જેથી કરીને તમે ખરેખર શોધી શકો અને સરળ રીતે સમજી શકો કે ઇન્ટરનેટ પર તેમનું મૂળ શું છે," તેણીએ ક્યારે અપેક્ષા રાખી શકાય તેની સમયરેખા આપ્યા વિના કહ્યું.

અન્ય પગલાં, તેણીએ ઉમેર્યું, વપરાશકર્તાઓને તેઓ શું જોઈ રહ્યાં છે તે સમજવામાં મદદ કરવાનો પ્રયાસ કરવા માટે "અમારા તરફથી અને મને આશા છે કે અન્ય લોકો" વધુ સ્તરીય અભિગમ પર આધારિત હશે. “કેટલીક પારદર્શિતા આવશ્યકતાઓ હશે જે અમે લેબલિંગની આસપાસ લાગુ કરી શકીએ છીએ અને જ્યારે સામગ્રી જનરેટ થાય છે કે નહીં તે સ્પષ્ટ કરી શકીએ છીએ. અને અમે વ્યાપક ઇકોસિસ્ટમ સાથે ભાગીદારી કરીશું કારણ કે અમે જાણીએ છીએ કે હાનિ આપણા પોતાના પ્લેટફોર્મ પર શરૂ થતી નથી અને બંધ થતી નથી," તેણીએ કહ્યું.

આમાંથી એક, દાખલા તરીકે, તેણીએ કહ્યું કે કેવી રીતે કંપનીએ બાળ જાતીય દુર્વ્યવહાર સામગ્રી, અથવા CSAM, કે જે સોશિયલ મીડિયા સેવા TikTok વાપરે છે, શોધવા માટે મશીન લર્નિંગ અલ્ગોરિધમ વિકસાવ્યું છે તેના જેવા તકનીકી ઉકેલો હશે.

“આ શોધ બાજુ પર ખરેખર ઘણું રસપ્રદ કાર્ય થઈ રહ્યું છે. આનો એક ભાગ જે અમે બાહ્ય બનાવ્યો છે તે એક વર્ગીકૃત છે જે સિન્થેટિક ઑડિઓ શોધી શકે છે, મને લાગે છે કે, અત્યારે 99% ચોકસાઈ. તેથી સહન કરવા માટે ઓછામાં ઓછા શ્રેષ્ઠ પ્રકારનાં તકનીકી ઉકેલો લાવવાની અમારી ક્ષમતા વિશે મને થોડો આશાવાદ છે," તેણીએ ઉમેર્યું.

સિન્થેટિક મીડિયા અને ડીપફેકને શોધવું એ વધુને વધુ મુશ્કેલ પડકાર બની ગયું છે. એઆઈ આર્ટ પ્રોગ્રામ્સ મિડજર્ની, ડાલ-ઈ અને સ્ટેબલ ડિફ્યુઝનના તાજેતરના વર્ઝનમાં વાયરલ, વાસ્તવિક પરંતુ નકલી ઈમેજો મળી છે, જેમ કે પોપ ડિસ્ક-જોકીંગની તસવીરો, જ્યારે એડોબ અને ગૂગલની નવી ફોટો એડિટિંગ ફીચર્સ ફોટોશોપિંગને પડકારજનક બનાવે છે.

એપ્રિલમાં, તમિલનાડુના મંત્રી પી થિયાગરાજને આરોપ મૂક્યો હતો કે તેમને એક ઊંડા નકલી ઓડિયો ક્લિપ દ્વારા નિશાન બનાવવામાં આવ્યા હતા જે સૂચવે છે કે તેમણે તેમના પોતાના પક્ષ પર હુમલો કર્યો હતો - અહેવાલો અનુસાર, સ્વતંત્ર નિષ્ણાતો દ્વારા ટેક્નિકલ પૃથ્થકરણ દ્વારા ન તો પુષ્ટિ થઈ શકે છે અને ન તો તે આરોપોને સાબિત કરી શકાય છે.

તે પછીના મહિને, કેન્દ્ર સરકારના વિરોધમાં કુસ્તીબાજોને ચેડાં કરેલી છબીઓ વડે નિશાન બનાવવામાં આવ્યા હતા જેમાં તેઓને જેલમાં લઈ જવાતી વખતે હસતાં હોવાનું દર્શાવવામાં આવ્યું હતું જ્યારે મૂળ ફોટોગ્રાફમાં આવી કોઈ અભિવ્યક્તિ ન હતી. આને રદિયો આપવાનું સરળ હતું કારણ કે મૂળ છબી ઝડપથી શોધી કાઢવામાં આવી હતી અને લોકો સાર્વજનિક રૂપે ઉપલબ્ધ એપ્લિકેશનો સાથે પરિણામોની નકલ કરી શકે છે.

"મારા માટે, તે ટોચની અગ્રતા છે કે અમે વપરાશકર્તાઓને અમારા પ્લેટફોર્મ પર માહિતીનો સામનો કરતી વખતે તેઓ શું જોઈ રહ્યાં છે તે સમજવામાં મદદ કરીએ છીએ કારણ કે તમે જાણો છો કે ઈમેજો, ઑડિયો અને ટેક્સ્ટ જનરેટ કરવામાં એન્ટ્રીનો અવરોધ પહેલા કરતા ઓછો હશે," તેણીએ કહ્યુ.

રિચાર્ડસને ઉમેર્યું હતું કે AI-સંબંધિત ખોટી માહિતીની આસપાસ Google ના વિશિષ્ટ હસ્તક્ષેપો "હજુ પણ વિકસિત થઈ રહ્યા છે", અને તે આને કેવી રીતે શેર કરે છે - "શું તે ડેટાબેઝ અથવા હેશિંગ અભિગમ અથવા કોઈ સમાન અભિગમ લેશે" હજુ આવવાનું બાકી છે.

ગૂગલ, એપલથી વિપરીત, જેણે ગયા મહિને યુકેની જોગવાઈઓ સામે જાહેર પોઝિશન લીધી હતી, તેણે હજી સુધી તેના પર કોઈ ચોક્કસ સ્થિતિ દર્શાવી નથી.

“મને લાગે છે કે એન્ક્રિપ્શન ચર્ચા ખરેખર અઘરી છે. હું નિયમનના ચોક્કસ સ્વરૂપો વિશે ખાસ વાત કરવા માંગતો નથી જે બાકી હોઈ શકે છે પરંતુ અમે બધા CSAM પર રહેવા માંગીએ છીએ તેટલા આક્રમક બનવાના માર્ગને દોરવાનો પ્રયાસ કરી રહ્યા છીએ જ્યારે તે જ સમયે અમારા ઉત્પાદનોની રીતે નબળાઈઓ ઉભી કરતા નથી. બિલ્ટ ખરેખર મહત્વનું છે. આ એક ઉદ્યોગ-વ્યાપી સમસ્યા છે," રિચાર્ડસને એન્ક્રિપ્શન વિશેના પ્રશ્ન પર કહ્યું.

ભારત સરકાર, તેના IT નિયમો, 2021 મુજબ, જેના પર હવે અદાલતો દ્વારા સ્ટે મૂકવામાં આવ્યો છે, તે ખોટી માહિતી સામે લડવાના પ્રયાસમાં સંદેશના મૂળને શોધી કાઢવા માટે ખૂબ કાયદેસર રીતે ફરજિયાત છે, પરંતુ E2EE ને તોડ્યા વિના આવો અભિગમ અશક્ય છે, નિષ્ણાતો કહે છે. જણાવ્યું હતું.

હેશિંગ અને ડેટાબેસ

હેશિંગ અને ડેટાબેસેસ CSAM સામે લડવાના હાલના પ્રયત્નોના કેન્દ્રમાં છે. Google અને તેના અગ્રણી ઉદ્યોગ પ્રતિસ્પર્ધીઓમાં એવી તકનીકોનો સમાવેશ થાય છે જ્યાં તેઓ જાણીતી બાળ જાતીય છબીઓને ટ્રૅક કરવા અને ફિંગરપ્રિન્ટિંગ અલ્ગોરિધમ બનાવવા માટે NGO સાથે સહયોગ કરે છે. જો વપરાશકર્તાના ઉપકરણ પરની કોઈ છબી અથવા ફાઇલમાં સમાન ફિંગરપ્રિન્ટ – અથવા હેશ – હોય તો તે બાળકની જાતીય છબી માટે સકારાત્મક મેચ હોવાનું માનવામાં આવે છે.

પરંતુ આ - હમણાં માટે - ત્યારે જ કાર્ય કરે છે જ્યારે કોઈ છબી ક્લાઉડ પર અપલોડ કરવામાં આવે. બંને માટે તેમની ટીકા કરવામાં આવી છે, સમસ્યાનો સામનો કરવામાં અપૂરતી હોવાના કારણે અને ઘણીવાર ખોટા સકારાત્મક મુદ્દાઓ ફેંકી દે છે.

CSAM પર કઠિન પગલાં લેવા ઇચ્છતા કાનૂની જોગવાઈઓને ધ્યાનમાં લેતા કેટલાક દેશોના ઉદાહરણ તરીકે યુકેએ દરખાસ્ત કરી છે કે ટેક કંપનીઓ આવી સામગ્રીને ઉપકરણો પર સંગ્રહિત કરવામાં આવે ત્યારે પણ તેને સ્કેન કરે છે અને તેને પ્રતિબંધિત કરે છે, આ પ્રક્રિયા જે સંભવતઃ ભંગ કરશે જેને અંત તરીકે ઓળખવામાં આવે છે. ટુ-એન્ડ એન્ક્રિપ્શન (E2EE) જે આવી કંપનીઓને કોઈના અંગત ઉપકરણ પર શું છે તે નિર્ધારિત કરવામાં સક્ષમ થવાથી પ્રતિબંધિત કરે છે.

Share On Social Media