व्हिडिओमध्ये असंही दिसतंय, की स्वाती मालीवाल ध्रुव राठीला या मुद्द्यावर व्हिडिओ न बनवण्याचा सल्ला देताना ऐकू येत आहे. मात्र, या व्हायरल ऑडिओची पडताळणी केली त्यावेळी ऑडिओचा व्हायरल व्हिडिओ एआय वापरून तयार करण्यात आल्याचं समोर आलं आहे.
सोशल मीडियावर अनेक युजर्स हा खरा ऑडिओ असल्याचं म्हणत शेअर करत आहेत. एका युजरने लिहिलंय, दिल्ली स्वाती मालीवाल आणि ध्रुव राठी यांचा व्हिडिओ व्हायरल झाला. स्वाती मालीवाल यांनी ध्रुव राठीला व्हिडिओ बनवू नका असं सांगितलं. केजरीवाल आणि सुनीता यांच्या सांगण्यावरून मारहाण झाली, ध्रुवने विरोधकांच्या अजेंड्यावर व्हिडिओ बनवला.
पडताळणीत काय समोर आलं?
बूमने या ऑडिओची पडताळणी केली, त्यावेळी त्यांना अरविंद आणि सुनिता केजरीवाल यांच्या आवाजात एक जंप कट असल्याचं आढळलं. त्यानंतर बूमच्या टीमला हा ऑडिओ एआयच्या मदतीने तयार करण्यात आल्याचा संशय आला. बूमच्या टीमने ज्यावेळी आयआयटी जोधपूरद्वारा बनवण्यात आलेल्या इतिसार या डीपफेक टूलसह या ऑडिओची तपासणी केली. त्यावेळी त्यांच्या अहवालात हा ऑडिओ डीपफेक ऑडिओ असल्याचं सांगण्यात आलं.
या पडताळणीनंतर बूमने हा ऑडिओ Contrails AI या संशोधकांना पाठवला. त्यांनी सांगितलं, की त्यांच्या दोन्ही आवाजात AI व्हॉईस क्लोनिंग आहे आणि हा ऑडिओ कॉल एक AI ऑडिओ स्पूफ आहे.
निष्कर्ष
बूमच्या तपासात स्वाती मालीवाल आणि ध्रुव राठी यांचा सोशल मीडियावर व्हायरल होणारा हा ऑडिओ डीपफेक असल्याचं समोर आलं आहे. दोघांचा ऑडिओ AI द्वारे बनवण्यात आला आहे.
(This story was originally published by Boom, and republished by NBT as part of the Shakti Collective.)