ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ദുരുപയോഗം ചെയ്ത് തെറ്റായ വിവരങ്ങൾ പ്രചരിപ്പിക്കുന്ന സംഭവത്തിൽ നടി രശ്മിക മന്ദാനയുടെ ഡീപ് ഫേക്ക് വീഡിയോ ഇന്റർനെറ്റിൽ വൈറലായിരിക്കുകയാണ്. AI ഉരുപയോഗിച്ചു സൃഷ്ടിച്ച വീഡിയോ ഇന്റർനെറ്റിൽ വൈറലായതിന് തൊട്ടുപിന്നാലെ, ‘പുഷ്പ’ നടി വൈറൽ വ്യാജ വീഡിയോയിൽ നിരാശ പ്രകടിപ്പിക്കുകയും ഒരാളുടെ പ്രതിച്ഛായയെ അപകീർത്തിപ്പെടുത്താൻ സാങ്കേതികവിദ്യയുടെ ദുരുപയോഗം ചൂണ്ടിക്കാണിക്കുകയും ചെയ്തു.
ഒരു ഫസ്റ്റ് ലുക്കിൽ, AI- നിർമ്മിച്ച വീഡിയോയിൽ പുഷ്പ നടി കറുത്ത വസ്ത്രം ധരിച്ച് ലിഫ്റ്റിൽ പ്രവേശിക്കുന്നത് കാണിക്കുന്നു. എന്നിരുന്നാലും, വീഡിയോ മറ്റൊരു സ്ത്രീയുടേതാണ്, ഡീപ്ഫേക്ക് എന്ന AI സാങ്കേതികവിദ്യ ഉപയോഗിച്ച് സൃഷ്ടിച്ചതാണ്. അമിതാഭ് ബച്ചനെപ്പോലുള്ള മുൻനിര താരങ്ങൾ മുതൽ കേന്ദ്രമന്ത്രി രാജീവ് ചന്ദ്രശേഖർ വരെ നിരവധി പേരാണ് വീഡിയോയ്ക്കെതിരെ ശക്തമായി പ്രതികരിച്ചത്.
ഇത് വളരെ ഭയാനകമാണ്, ഇത് അടിയന്തിരമായി പരിഹരിക്കേണ്ടതുണ്ട്, രശ്മിക മന്ദാന പറഞ്ഞു.
വീഡിയോ സോഷ്യൽ മീഡിയയിൽ വൈറലായതിന് ശേഷം, സാങ്കേതികവിദ്യ എങ്ങനെ ദുരുപയോഗം ചെയ്യപ്പെടുന്നു എന്നത് വളരെ ഭയാനകമാണെന്ന് രശ്മിക മന്ദാന പറഞ്ഞു.
എലിവേറ്ററിനുള്ളിൽ കറുത്ത വർക്ക്ഔട്ട് വസ്ത്രം ധരിച്ച ഒരു സ്ത്രീയെ കാണിക്കുന്ന വീഡിയോ കണ്ട് തനിക്ക് ശരിക്കും വേദനിച്ചുവെന്ന് മന്ദാന ഇൻസ്റ്റാഗ്രാമിലൂടെ തന്റെ ആശങ്ക പ്രകടിപ്പിച്ചു. ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (എഐ) ഉപയോഗിച്ച് മറ്റൊരു സ്ത്രീയുടെ വീഡിയോ മന്ദാന യെപ്പോലെ അവളുടെ മുഖം എഡിറ്റ് ചെയ്തിട്ടുണ്ട്.
“ഇന്ന് ഒരു സ്ത്രീ എന്ന നിലയിലും ഒരു അഭിനേതാവെന്ന നിലയിലും, എന്റെ സംരക്ഷണവും പിന്തുണയും നൽകുന്ന എന്റെ കുടുംബത്തിനും സുഹൃത്തുക്കൾക്കും അഭ്യുദയകാംക്ഷികൾക്കും ഞാൻ ഒരുപാട് നന്ദി പറയുന്നു . എന്നാൽ ഞാൻ സ്കൂളിലോ കോളേജിലോ പഠിക്കുമ്പോൾ എനിക്ക് ഇത് സംഭവിച്ചെങ്കിൽ, എങ്ങനെയെന്ന് എനിക്ക് സങ്കൽപ്പിക്കാൻ പോലും കഴിയുന്നില്ല എനിക്കിത് എങ്ങനെ നേരിടാൻ കഴിയുമെന്നു . നമ്മളിൽ കൂടുതൽ പേരെ ഇത്തരം ഐഡന്റിറ്റി മോഷണം ബാധിക്കുന്നതിന് മുമ്പ് ഇതിനെ ഒരു സമൂഹമെന്ന നിലയിൽ നമ്മൾ അടിയന്തിരമായി അഭിസംബോധന ചെയ്യേണ്ടതുണ്ട്, ”രശ്മിക മന്ദാന ഇൻസ്റ്റാഗ്രാമിൽ പങ്ക് വച്ച പോസ്റ്റിൽ പറയുന്നു .
“ഓൺലൈനിൽ പ്രചരിക്കുന്ന എന്റെ പേരിലുള്ള ഡീപ് ഫേക്ക് വീഡിയോയെക്കുറിച്ച് സംസാരിക്കേണ്ടി വരുന്നത്തിലും ഇത് പങ്ക് വെക്കുന്നതിലും എനിക്ക് വലിയ സങ്കടം ഉണ്ട് . ഇതുപോലുള്ളത് എനിക്ക് മാത്രമല്ല, നമ്മളോരോരുത്തർക്കും ഇത് ഇന്നല്ലെങ്കിൽ നാളെ വളരെയധികം ദ്രോഹം ചെയ്യും ഇത് വളരെ ഭയാനകമാണ്. സാങ്കേതികവിദ്യ എങ്ങനെ ദുരുപയോഗം ചെയ്യപ്പെടുന്നു എന്നതിനെക്കുറിച്ച്, “പുഷ്പ”, “മിഷൻ മജ്നു”, വരാനിരിക്കുന്ന “അനിമൽ” തുടങ്ങിയ ചിത്രങ്ങളിലെ വേഷങ്ങളിലൂടെ അറിയപ്പെടുന്ന താരം രശ്മിക എഴുതി.
നിയമനടപടി സ്വീകരിക്കണമെന്ന് ബോളിവുഡ് സൂപ്പർതാരം അമിതാഭ് ബച്ചൻ
രശ്മിക മന്ദാനയുടെ പ്രസ്താവനയ്ക്ക് മുമ്പ് തന്നെ അമിതാഭ് ബച്ചനിൽ നിന്ന് വീഡിയോയ്ക്ക് രൂക്ഷമായ പ്രതികരണമാണ് ലഭിച്ചത്. ബ്രിട്ടീഷ്-ഇന്ത്യൻ സോഷ്യൽ മീഡിയ വ്യക്തിത്വമായ സാറ പട്ടേലിന്റെ ഒറിജിനൽ വീഡിയോയ്‌ക്കൊപ്പം ഒരു ഫാക്‌ട്‌ഫേക്ക് ക്ലിപ്പ് പോസ്‌റ്റ് ചെയ്‌തതിന് ശേഷം, ഇന്ത്യയിലെ ഡീപ്‌ഫേക്കുകൾ കൈകാര്യം ചെയ്യാൻ നിയമപരവും നിയന്ത്രണപരവുമായ ചട്ടക്കൂട് വേണമെന്ന് ആവശ്യപ്പെട്ട് ആദ്യം പ്രതികരിച്ചത് അദ്ദേഹമാണ്.
“അതെ ഇത് നിയമപരമായി ശക്തമായ ഒരു കേസാണ്” എന്ന് പോസ്റ്റിനോട് പ്രതികരിച്ചുകൊണ്ട് ബച്ചൻ പറഞ്ഞു.
എന്താണ് ഡീപ്ഫേക്ക് AI സാങ്കേതികവിദ്യ?
കാഴ്ചക്കാരെ തെറ്റിദ്ധരിപ്പിക്കാൻ വിഷ്വൽ, ഓഡിയോ ഉള്ളടക്കം സൃഷ്ടിക്കാൻ ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യ AI-യും മെഷീൻ ലേണിംഗും ഉപയോഗിക്കുന്നു. ഇത് ഒരു യഥാർത്ഥ വീഡിയോ പോലെ തോന്നിക്കുന്ന തരത്തിൽ മറ്റൊരു മീഡിയ ഫയലിൽ വേറൊരാളുടെ രൂപം വളരെ റിയാലാണ് എന്ന് തോന്നിക്കുന്ന തരത്തിൽ കൂട്ടി ചേർക്കുന്നു .
Original video and Fake video: Need Urgent legal action against it.
The original video is of Zara Patel, a British-Indian girl with 415K followers on Instagram. She uploaded this video on Instagram on 9 October. (2/3) pic.twitter.com/MJwx8OldJU
— Abhishek (@AbhishekSay) November 5, 2023
ഒരു വ്യക്തിയെ അപകീർത്തിപ്പെടുത്തുന്നതിനോ തെറ്റായ വിവരങ്ങൾ പ്രചരിപ്പിക്കുന്നതിനോ ഉള്ള ഫലപ്രദമായ ഉപകരണമായി വർത്തിക്കാൻ കഴിയുന്നതിനാൽ,ഈ സാങ്കേതികവിദ്യയെ വിവിധ പ്ലാറ്റ്‌ഫോമുകളിൽ നിന്ന് നിരോധിച്ചിരിക്കുകയാണ്.
