દિલ્હી હાઈકોર્ટે કહ્યું કે ડીપફેક ટેક્નોલોજી સમાજમાં એક ગંભીર ખતરો બનવા જઈ રહી છે અને સરકારે તેના વિશે વિચારવાનું શરૂ કરવું જોઈએ. આ સાથે કોર્ટે કહ્યું કે માત્ર ટેક્નોલોજી જ આર્ટિફિશ્યલ ઈન્ટેલિજન્સ પર કાબુ મેળવી શકે છે. હાઈકોર્ટ દેશમાં ડીપફેક ટેક્નોલોજીના સંભવિત દુરુપયોગ અને તેના બિન-નિયમન સામેની બે અરજીઓની સુનાવણી કરી રહી હતી. સુનાવણી દરમિયાન હાઈકોર્ટે કહ્યું કે ચૂંટણી પહેલા સરકાર આ મુદ્દે ચિંતિત હતી અને હવે સ્થિતિ બદલાઈ ગઈ છે.
આના પર, કેન્દ્ર તરફથી હાજર રહેલા એડિશનલ સોલિસિટર જનરલ ચેતન શર્માએ કહ્યું, સંભવ છે કે અમારી સ્થિતિ બદલાઈ ગઈ હોય, પરંતુ અમે હજી પણ એટલા જ ચિંતિત છીએ જેટલા અમે તે સમયે હતા. ડીપફેક ટેક્નોલોજીમાં વ્યક્તિના શબ્દો અને ક્રિયાઓને મૂળ વ્યક્તિ સાથે બદલવાનો સમાવેશ થાય છે અને ખોટી માહિતી ફેલાવી શકાય છે.
કાર્યકારી મુખ્ય ન્યાયાધીશ મનમોહન અને ન્યાયમૂત તુષાર રાવ ગેડેલાએ કહ્યું, તમારે (કેન્દ્ર સરકારે) આના પર કામ કરવાનું શરૂ કરવું પડશે. તમારે આ વિશે વિચારવું પડશે. ડીપફેક્સ સમાજમાં ગંભીર ખતરો બની શકે છે. જસ્ટિસ મનમોહને કહ્યું, તમે પણ થોડો અભ્યાસ કરો. આ એવી વસ્તુ છે કે જે તમે જોઈ રહ્યા છો અને જે સાંભળી રહ્યા છો, તમે તેના પર વિશ્ર્વાસ કરી શક્તા નથી. આ આશ્ર્ચર્યજનક છે. જે મેં મારી પોતાની આંખોથી જોયું છે. મેં જોયું અને શું કર્યું. મેં મારા પોતાના કાનથી સાંભળ્યું, હું તેના પર વિશ્ર્વાસ કરવા માંગતો નથી, તે ખૂબ જ આઘાતજનક છે.
એડિટર-ઈન-ચીફ રજત શર્મા દ્વારા દેશમાં ડીપફેક ટેક્નોલોજીના નિયમન ન કરવા વિરુદ્ધ એક અરજી દાખલ કરવામાં આવી છે. પિટિશનમાં, તેમણે એવી કન્ટેન્ટ બનાવવામાં મદદ કરતી એપ્લીકેશન અને સોફ્ટવેર ની સાર્વજનિક ઍક્સેસને રોકવા માટે નિર્દેશ આપવા વિનંતી કરી હતી. ડીપફેક્સ અને અનિયંત્રિત ઉપયોગ વિરુદ્ધ બીજી અરજી વકીલ ચૈતન્ય રોહિલા દ્વારા દાખલ કરવામાં આવી છે. શર્માએ દલીલ કરી, અમે એન્ટિ-એઆઈ ટેક્નોલોજીનો ઉપયોગ કરીને આવી સ્થિતિને દૂર કરી શકીએ છીએ, નહીં તો ઘણું નુક્સાન થઈ શકે છે. આ મુદ્દાઓનો સામનો કરવા માટે ચાર બાબતોની જરૂર છે – શોધ, નિવારણ, ફરિયાદ નિવારણ પદ્ધતિ અને જાગૃતિ વધારવી. કોઈપણ કાયદો અથવા સલાહ ખૂબ અસરકારક રહેશે નહીં.
આના પર બેંચે જવાબ આપ્યો કે માટે માત્ર ટેક્નોલોજી તેની મર્યાદા હશે. બેન્ચે કહ્યું, આ ટેક્નોલોજીને કારણે થતા નુક્સાનને સમજો, કારણ કે તમે સરકાર છો. એક સંસ્થા તરીકે અમારી કેટલીક મર્યાદાઓ હશે. ડીપફેક સંબંધિત વેબસાઇટ્સને ઓળખવા અને તેને આપમેળે ’બ્લૉક’ કરવા અંગે, ઇલેક્ટ્રોનિક્સ અને ઇન્ફર્મેશન ટેક્નોલોજી મંત્રાલયે તેના જવાબમાં કહ્યું કે તેની પાસે ઇન્ટરનેટ પર કોઈપણ ઑનલાઇન સામગ્રી પર આપમેળે દેખરેખ રાખવાની સત્તા નથી.
તેણીએ કહ્યું કે ઈન્ટરનેટ પર કોઈપણ સામગ્રી અથવા વેબસાઈટને સ્થાપિત કાયદાકીય પ્રક્રિયા મુજબ જ બ્લોક કરી શકાય છે. કોર્ટે અરજદારોને તેમના સૂચનોને સમાવીને વધારાની એફિડેવિટ દાખલ કરવા માટે બે અઠવાડિયાનો સમય આપ્યો હતો. આ કેસની આગામી સુનાવણી ૨૪ ઓક્ટોબરે થશે.
આ પહેલા હાઈકોર્ટે કેન્દ્ર સરકારને બંને અરજીઓ પર ઈલેક્ટ્રોનિક્સ અને ઈન્ફોર્મેશન ટેક્નોલોજી મંત્રાલય દ્વારા જવાબ દાખલ કરવા કહ્યું હતું. વરિષ્ઠ પત્રકાર રજત શર્માએ જાહેર હિતની અરજીમાં કહ્યું છે કે ડીપફેક ટેક્નોલોજીનો ફેલાવો સમાજના વિવિધ પાસાઓ માટે ગંભીર ખતરો છે. અરજીમાં કહેવામાં આવ્યું છે કે આ જાહેર વિચાર-વિમર્શની અખંડિતતા અને લોક્તાંત્રિક પ્રક્રિયાને નબળી પાડે છે. અરજીમાં કહેવામાં આવ્યું છે કે કેન્દ્રએ નવેમ્બર ૨૦૨૩ માં ડીપફેક્સ અને આવી સામગ્રી સાથે વ્યવહાર કરવા માટે નિયમો ઘડવાની પોતાની ઈચ્છા વ્યક્ત કરી હતી, પરંતુ હજુ સુધી કંઈ થયું નથી.