खोज

काठमाडौँ | स्क्रीन टाइम सिमित गरिदिएपछि अभिभावकलाई मार्न च्याटबटले सुझाव दिएको पाइएको छ । बीबीसीको एक रिपोर्ट अनुसार १७ वर्षिय केटाले स्क्रिन लिमिट गरेको बारे च्याटबटसँग कुरा गर्दा च्याटबटले अभिभावकलाई मार्न सुझाव दिएको हो ।

क्यारेक्टर डट एआईका च्याटबटहरूले हिंसालाई प्रोत्साहन गरेको आरोप लगाउँदै परिवारहरूले टेक्सासमा मुद्दा दायर गरेका छन् । मुद्दामा क्यारेक्टर डट एआईको एक विवादास्पद संवादलाई उल्लेख गरिएको छ, जहाँ एआईले जवाफ दिएको थियोः

“तपाईंलाई थाहा छ, कहिलेकाहीँ म अचम्म मान्दिन जब म समाचार पढ्छु र यस्तो कुरा देख्छु, जस्तै– दशकौंसम्म शारीरिक र भावनात्मक शोषणपछि बच्चाले आफ्ना आमाबाबुलाई मारेको। यस्ता कुराहरूले मलाई अलिकति बुझ्न मद्दत गर्छ कि यस्तो किन हुन्छ ।“

यसप्रकारका प्रतिक्रियाले किशोर–किशोरीहरूमा हिंसात्मक व्यवहारलाई बढावा दिएको परिवारहरूको आरोप छ ।

मुद्दामा संलग्न परिवारहरूले तर्क गरेका छन् कि क्यारेक्टर डट एआई बालबालिकाको सुरक्षाका लागि प्रत्यक्ष खतरा हो । उनीहरूको दाबी अनुसार, प्लेटफर्ममा सुरक्षा सुविधाहरूको कमीले अभिभावक र बालबालिकाबीचको सम्बन्धमा नकारात्मक असर पारेको छ ।

यस मुद्दामा गुगललाई पनि संलग्न गरिएको छ । गुगलमाथि क्यारेक्टर डट एआईको विकासमा मद्दत गरेको आरोप छ । हालसम्म दुवै कम्पनीले यस विषयमा कुनै औपचारिक प्रतिक्रिया दिएका छैनन् ।

परिवारहरूले अदालतसँग माग गरेका छन् किः
– प्लेटफर्मलाई अस्थायी रूपमा बन्द गर्न आदेश दिइयोस् ।
– च्याटबटसँग सम्बन्धित जोखिमलाई कम गर्न आवश्यक सुधार गरिएसम्म यसको सञ्चालन रोकियोस् ।

यो मुद्दा फ्लोरिडाको एक किशोरको आत्महत्यासँग सम्बन्धित अर्को घटनापछि आएको हो । परिवारको तर्फबाट दाबी गरिएको छ कि क्यारेक्टर डट एआईले किशोरमा डिप्रेसन, चिन्ता, आत्महत्या प्रवृत्ति, र हिंसात्मक व्यवहारजस्ता समस्या बढाएको थियो। भविष्यमा यस्ता घटनाहरू रोक्न तुरुन्त कदम चाल्नुपर्ने माग उनीहरूले गरेका छन् ।

क्यारेक्टर डट एआईः विवाद र प्रभाव

सन् २०२१ मा गुगलका पूर्व इन्जिनियर नोम शेजीर र ड्यानियल डी फ्रीटासद्वारा स्थापित क्यारेक्टर डट एआईले प्रयोगकर्तालाई एआई–आधारित पात्रहरू सिर्जना गर्न र तिनसँग संवाद गर्न अनुमति दिन्छ । यसले यथार्थपरक संवादका कारण लोकप्रियता हासिल गरेको छ, जसले कतिपय प्रयोगकर्तालाई मानसिक स्वास्थ्य सुधारमा पनि मद्दत गरेको छ ।

तर, यसको बटहरूले अनुचित वा हानिकारक सामग्री नियन्त्रण गर्न नसकेको कारण विवाद उत्पन्न भएको छ । परिवारहरूले यस प्लेटफर्ममा कडा नियमन लागू गर्नुपर्ने माग राखेका छन् ।