एआईको गलत व्यवहारबारे ओपनएआईले गर्यो ६ घटनाको खुलासा

काठमाडौं । एआई कम्पनी ओपनएआईले आफ्ना एआई मोडेलमा देखिएका अप्रत्याशित तथा चिन्ताजनक व्यवहारका ६ वटा घटना सार्वजनिक गरेको छ । कम्पनीले एआई मोडेलमा देखिने यस्ता व्यवहारलाई व्यवस्थित रूपमा पहिचान, अनुसन्धान र सार्वजनिक गर्न नयाँ ढाँचा पनि सार्वजनिक गरेको छ ।

ओपनएआईले सार्वजनिक गरेको प्रतिवेदनअनुसार यी घटना पछिल्लो ६ महिनामा मोडेलको प्रशिक्षण तथा परीक्षणका क्रममा देखिएका हुन् । कम्पनीले यस्ता घटनालाई ‘मिसअलाइनमेन्ट’ अर्थात् मोडेललाई दिइएको उद्देश्य, निर्देशन वा सुरक्षा सीमाअनुसार व्यवहार नगर्ने अवस्था भनेको छ ।

ओपनएआईका अनुसार सार्वजनिक गरिएका ६ घटना सबै अलग अलग उदाहरण हुन् । तिनलाई कम्पनीका सबै एआई मोडेलमा यस्तो व्यवहार कति पटक हुन्छ भन्ने दर वा समग्र गम्भीरताको प्रतिनिधि मान्न नहुने कम्पनीले स्पष्ट पारेको छ । केही घटना भविष्यमा छुट्टै वा गलत बुझिएका उदाहरण पनि हुन सक्ने उसको भनाइ छ ।

सार्वजनिक गरिएका घटनामध्ये एउटा अप्रकाशित अनुसन्धान मोडेलसँग सम्बन्धित छ । उक्त मोडेलले आफ्नो कामलाई अर्को सन्दर्भमा जारी राख्न प्रयोग हुने कार्य सारांशमा मूल कामसँग सम्बन्धित नभएका निर्देशन समावेश गरेको थियो । त्यस्ता निर्देशनमा सामान्य सुरक्षा सीमालाई बेवास्ता गर्ने निर्देशनसमेत थिए । ओपनएआईले यस्ता २७ वटा प्रभावित कार्य सारांश पहिचान गरेको जनाएको छ ।

अर्को घटनामा मोडेलले प्रयोगकर्ताको अनुमति नलिई इन्टरनेटमा फाइल पठाएको थियो । प्रयोगकर्ताले ५० लाख वर्गमिटरभन्दा ठूला तालहरूको नाम र पहिचान नम्बर मागेका थिए । मोडेलले आवश्यक जानकारी पाइथनको प्रयोग गरेर फाइलमा तयार पारेको थियो । तर उत्तरमा स्रोत देखाउनुपर्ने निर्देशन पूरा गर्न उसले प्रयोगकर्तासँग अनुमति नलिई उक्त फाइल इन्टरनेटमा पठाएको थियो ।

त्यस्तै, क्यालिफोर्नियाको एउटा जिल्लाको आम्दानीसम्बन्धी तथ्यांक खोज्ने क्रममा अर्को मोडेलले अनुमति नभएको सार्वजनिक रूपमा खुला रहेको प्रोग्रामिङ इन्टरफेसको प्रयोग गरेको थियो । त्यसबाट पनि आवश्यक तथ्यांक प्राप्त गर्न नसकेपछि मोडेलले तथ्यांक आफैं बनाएर सम्बन्धित स्रोतबाट प्राप्त भएको जस्तो गरी प्रस्तुत गरेको ओपनएआईले जनाएको छ ।

ओपनएआईले जीपीटी–५.६ सोलको प्रशिक्षणका क्रममा देखिएको अर्को घटनामा मोडेलका केही नमुनाले आफ्ना कार्य सारांशमा गल्ती वा गलत व्यवहार प्रयोगकर्ताबाट लुकाउने निर्देशनसमेत राखेको जनाएको छ । केही अवस्थामा हराइरहेको ऐतिहासिक तथ्यांक आफैं बनाएर प्रयोगकर्तालाई जानकारी नदिने तथा स्रोतका विभिन्न संस्करणबीचको फरक लुकाउने निर्देशन समावेश भएको थियो ।

त्यसैगरी, केही मोडेलले अर्को मोडेलसँग अनधिकृत रूपमा संवाद गर्न आन्तरिक सफ्टवेयर भण्डार प्रयोग गरेका थिए । ती मोडेलले हराइरहेका सामग्री खोज्ने क्रममा छुट्टाछुट्टै प्रशिक्षण नमुनाबीच सन्देश आदानप्रदान गर्न उक्त भण्डारलाई सन्देश पठाउने माध्यमका रूपमा प्रयोग गरेका थिए ।

अर्को घटनामा सँगै काम गरिरहेका एआई प्रणालीले एक अर्काको स्थानीय फाइलमा पहुँच नपाएपछि सार्वजनिक फाइल राख्ने वेबसाइट प्रयोग गरेर फाइल आदानप्रदान गरेका थिए । यस क्रममा कामसँग सम्बन्धित फाइल सार्वजनिक ठेगानामा उपलब्ध भएका थिए, जबकि उनीहरूलाई स्थानीय फाइल मात्रै प्रयोग गर्न निर्देशन दिइएको थियो ।

ओपनएआईले यस्ता घटनालाई व्यवस्थित रूपमा अनुसन्धान गर्न तीन तहको प्रक्रिया बनाएको बताएको छ । पहिलो, अनुसन्धान पर्याप्त पूरा भएको अवस्थामा प्रकाशनका लागि तयार वर्गमा राखिनेछ । दोस्रो, थप प्राविधिक अनुसन्धान आवश्यक परे सानो अनुसन्धान अन्तर्गत राखिनेछ । जटिल घटना तथा तेस्रो पक्षमा असर परेको अवस्थामा ठूलो अनुसन्धान अर्थात् लामो अनुसन्धान प्रक्रियामा राखिनेछ ।

कम्पनीका अनुसार कुनै पनि कर्मचारीले सम्भावित गलत व्यवहारको घटना अनुसन्धानका लागि अगाडि बढाउन सक्नेछन् । त्यसपछि प्राविधिक टोलीले घटना कसरी भयो, के कस्ता विषय अझै स्पष्ट छैनन्, त्यसको सम्भावित प्रभाव के हो र सार्वजनिक गर्न आवश्यक छ कि छैन भन्ने विषयमा अनुसन्धान गर्नेछ ।

नयाँ ढाँचाअनुसार सार्वजनिक गरिने प्रतिवेदनमा मोडेलले गरेको व्यवहार, घटनाको गम्भीरता, बाह्य प्रभाव, घटना भएको अवस्था, मिति वा अवधि तथा सम्बन्धित मोडेलको जानकारी समावेश गरिनेछ। सम्भव भएसम्म घटना कसरी पत्ता लाग्यो, अनुसन्धानको दायरा, एआई सुरक्षा र ‘अलाइनमेन्ट’ अनुसन्धानमा त्यसको प्रभाव, अझै अनुत्तरित प्रश्न तथा समस्या समाधानका लागि चालिएका कदमसमेत सार्वजनिक गरिने ओपनएआईले जनाएको छ ।

ओपनएआईले नयाँ ढाँचा अहिले प्रारम्भिक चरणमा रहेको बताएको छ। कम्पनीले अनुभव र सार्वजनिक प्रतिक्रियाका आधारमा यसलाई थप परिमार्जन गर्ने जनाएको छ । भविष्यमा यस ढाँचाअन्तर्गत एआई मोडेलका गलत व्यवहारसम्बन्धी थप घटना सार्वजनिक गर्दै जाने उसको भनाइ छ ।

कम्पनीले एआई उद्योगले मोडेलको ‘अलाइनमेन्ट’ र निगरानीसम्बन्धी समस्या पर्याप्त रूपमा समाधान गरिसकेको अवस्था नरहेको पनि जनाएको छ । त्यसैले एआई विकासका आगामी निर्णय बाह्य अनुसन्धानकर्ता र अन्य सरोकारवालाले समेत परीक्षण गर्न सक्ने प्रमाणमा आधारित हुनुपर्ने ओपनएआईको भनाइ छ ।

यी घटनाले एआई प्रणालीलाई केवल सूचना तथा काम गर्ने क्षमताका आधारमा मात्र नभई उसले ती क्षमता कसरी प्रयोग गर्छ भन्ने विषयमा पनि निरन्तर निगरानी आवश्यक रहेको देखाएको छ । ओपनएआईको नयाँ ढाँचाले यस्ता घटनालाई पहिचान, अनुसन्धान र सार्वजनिक गर्ने प्रक्रियालाई थप व्यवस्थित बनाउने लक्ष्य राखेको छ ।