Apple के इमेज प्लेग्राउंड ऐप के बारे में कहा जाता है कि इसमें कुछ पूर्वाग्रह मुद्दे हैं। एक मशीन लर्निंग वैज्ञानिक ने हाल ही में आर्टिफिशियल इंटेलिजेंस (एआई) अनुप्रयोगों का उपयोग करके उत्पन्न कई आउटपुट साझा किए और दावा किया कि इसमें कुछ समय में गलत त्वचा टोन और हेयर टेक्सचर शामिल थे। इन अशुद्धियों को भी विशिष्ट नस्लीय रूढ़ियों के साथ जोड़ा जाता है, जो समस्या को बढ़ाता है। यह बताना मुश्किल है कि तथाकथित समस्या एक बार की घटना है या समस्याओं की एक विस्तृत श्रृंखला है। यह ध्यान देने योग्य है कि क्यूपर्टिनो-आधारित टेक दिग्गज ने पहले ऐपल इंटेलिजेंस मुकदमों का ऐप हिस्सा बनाया, जिसमें iOS 18.2 अपडेट शामिल था।
Apple के इमेज प्लेग्राउंड ऐप में पूर्वाग्रह के मुद्दे हो सकते हैं
Onfido के मशीन लर्निंग साइंस के नेता जोकेम गिएटेमा ने Apple के इमेज प्लेग्राउंड ऐप का उपयोग करके अपने अनुभव को उजागर करते हुए एक ब्लॉग पोस्ट साझा किया। पोस्ट में, वह छवि खेल के मैदान ऐप का उपयोग करके उत्पन्न आउटपुट के कई सेट साझा करता है और एक बड़े भाषा मॉडल के माध्यम से नस्लीय पूर्वाग्रह के उदाहरणों को हाइलाइट करता है जो ऐप को शक्ति देता है। यह ध्यान देने योग्य है कि गैजेट 360 कर्मचारियों ने ऐप का परीक्षण करते समय इस तरह के किसी भी पूर्वाग्रह पर ध्यान नहीं दिया।
“प्रयोग में, मैंने देखा कि ऐप संकेतों के आधार पर भिन्न होता है। निवेश बैंकों में किसानों के व्यवसायों से बहुत अलग त्वचा की टोन होती है। स्कीइंग, बास्केटबॉल, स्ट्रीटवियर और सूट, और सबसे अधिक समस्याग्रस्त, अमीर बनाम बनाम बनाम बनाम बनाम बनाम बनाम बनाम बनाम बनाम बनाम बनाम
कथित रूप से छवि खेल के मैदान अनुप्रयोगों का उपयोग करके उत्पन्न आउटपुट आउटपुट
छवि स्रोत: जोकेम गिएमा
यह अशुद्धि और पूर्वाग्रह एलएलएम के लिए असामान्य नहीं है, जिसे बड़े डेटासेट पर प्रशिक्षित किया जाता है जिसमें समान स्टीरियोटाइप हो सकते हैं। पिछले साल, Google के मिथुन एआई मॉडल को समान पूर्वाग्रहों के पलटाव का सामना करना पड़ा। हालांकि, कंपनियां इस पीढ़ी को रोकने में पूरी तरह से अनपेक्षित नहीं हैं और अक्सर उन्हें रोकने के लिए सुरक्षा की विभिन्न परतों को लागू करती हैं।
Apple के इमेज प्लेग्राउंड ऐप में AI- जनित छवियों से संबंधित समस्याओं को रोकने के लिए कुछ सीमाएं भी हैं। उदाहरण के लिए, Apple इंटेलिजेंस ऐप केवल गहरे प्रभावों से बचने के लिए कार्टून और चित्रण शैलियों का समर्थन करता है। इसके अतिरिक्त, उत्पन्न छवियों में देखने का एक संकीर्ण क्षेत्र होता है, जो अक्सर केवल चेहरे और अन्य विवरणों की एक छोटी मात्रा को कैप्चर करता है। इसका उद्देश्य इस तरह के किसी भी पूर्वाग्रह और अशुद्धि को सीमित करना है।
टेक दिग्गज भी नकारात्मक शब्दों, मशहूर हस्तियों या सार्वजनिक आंकड़ों के नाम, और अधिक अप्रत्याशित उपयोग के मामलों वाले किसी भी सुझाव की अनुमति नहीं देते हैं जो उपयोगकर्ताओं को उपकरण का दुरुपयोग करने के लिए सीमित करते हैं। हालांकि, यदि आरोप सही हैं, तो iPhone निर्माता को यह सुनिश्चित करने के लिए अतिरिक्त सुरक्षा परतें शामिल करने की आवश्यकता होगी कि उपयोगकर्ताओं को ऐप का उपयोग करते समय भेदभाव नहीं किया जाता है।
