Appleनं ॲप स्टोअरवरून हटवले तीन ॲप्स, AIचा वापर करून तयार करत होते अश्लील फोटो

Huawei फोनमधील AI फिचरच्या मदतीने अश्लील फोटोज तयार करता येता अशा अलीकडील बातम्यांनंतर, Apple (404 मीडियाद्वारे) बाबतही अशीच बातमी समोर आली आहे. अहवालानुसार, Apple ने “आर्ट जनरेटर” म्हणून प्रमोट केलेले तीन ॲप्स काढून टाकले आहेत, या ॲप्सनं इन्स्टाग्राम आणि अडल्ट साइट्सवर कोणत्याही व्यक्तीच्या फोटोला नग्न करण्याचा दावा केला होता.

AIचा वापर करून काढण्यात येत होते अश्लील फोटो

ॲप्सनं कपडे घातलेल्या व्यक्तींच्या बनावट नग्न प्रतिमा तयार करण्यासाठी AI चा वापर केला. फोटोत प्रत्यक्ष अश्लीलतेचे चित्रण करत नसले तरी, हे ॲप्स अशा प्रतिमा तयार करू शकतात ज्याचा वापर छळ, ब्लॅकमेलिंग आणि प्रायव्हसीचे उल्लंघन करण्यासाठी केला जाऊ शकतो.

हे ॲप्स २०२२ पासून ॲप स्टोअरवर उपलब्ध

404 मीडियाने ॲप्स आणि त्यांच्या जाहिरातींच्या लिंक्स शेअर केल्यानंतर ॲपलने याबद्दल ही कारवाई केली आहे. आश्चर्याची गोष्ट म्हणजे, हे ॲप्स ऍप स्टोअरवर 2022 पासून उपलब्ध आहेत. रिपोर्ट्सनुसार ॲप्सने अडल्ट साइटवरून जाहिराती काढून टाकल्यास त्यांना सुरुवातीला ॲप स्टोअरवर राहण्याची परवानगी होती. मात्र, यापैकी एका ॲपने 2024 पर्यंत जाहिराती चालवल्या, त्यानंतर Googleने सर्वप्रथम कारवाई करत ते आपल्या Play Store वरून काढून टाकले.

ॲपलनं दाखवला हलगर्जीपणा

ॲपलने आता त्यांना ॲप स्टोअरमधून काढून टाकण्याचा निर्णय घेतला आहे. मात्र हा निर्णय उशिराने घेतल्यामुळे कंपनीच्या भूमिकेवर प्रश्नचिन्ह निर्माण झाले आहे. आगामी काळात गैरप्रकारांना चालना देणाऱ्या डेव्हलपर्सवर सुरुवातीलाच आळा घालणे आवश्यक आहे. कारण, WWDC 2024 इव्हेंट अगदी जवळ आला आहे आणि कंपनी iOS 18 आणि Siri साठी अनेक AI फिचर् इव्हेंटमध्ये जाहीर करेल अशी अपेक्षा आहे. Apple जबाबदार AIडेव्हलपर म्हणून आपले स्थान निर्माण करत आहे.

याउलट, Google आणि OpenAI ने त्यांच्या AI सिस्टमला प्रशिक्षित करण्यासाठी कॉपीराइटेड कंटेंट वापरल्याबद्दल खटल्यांचा सामना केला आहे. ऍपलने एनसीआय ॲप्स उशीरा काढल्याने कंपनीच्या भूमिकेवर अनेक प्रश्न निर्माण होत आहेत.