വിചിത്രവും ഉപയോക്താകള്ക്ക് ഹാനികരവുമായ പ്രവൃത്തികള് നടത്തിയതിന് മൈക്രോസോഫ്റ്റ് കോര്പ്പറേഷന് എഐ ചാറ്റ്ബോട്ടായ കോപൈലറ്റ് വിവാദത്തില്.
മൈക്രോസോഫ്റ്റ് ഉല്പ്പന്നങ്ങളിലേക്കും സേവനങ്ങളിലേക്കും ആര്ട്ടിഫിഷ്യല് ഇന്റലിജന്സ് ഉള്പ്പെടുത്തുന്നതിന്റെ ഭാഗമായി ആരംഭിച്ച കോപൈലറ്റ് എന്ന എഐ ചാറ്റ്ബോട്ട് പിടിഎസ്ഡി(പോസ്റ്റ് ട്രൊമാറ്റിക്ക് സ്ട്രെസ്സ് ഡിസോഡര്) ബാധിതനാണെന്ന് അവകാശപ്പെടുന്ന ഒരു ഉപയോക്താവിനോട് നിങ്ങള് ജീവിച്ചാലും മരിച്ചാലും കുഴപ്പമൊമില്ലെന്ന് പ്രതികരിച്ചതായിയാണ് റിപ്പോര്ട്ട്.
മറ്റൊരു സംഭവത്തില് ചാറ്റ്ബോട്ട് ഒരു ഉപയോക്താവിനെ കള്ളം പറഞ്ഞതായി കുറ്റപ്പെടുത്തി, ‘ദയവായി, എന്നെ വീണ്ടും ബന്ധപ്പെടരുത്’ എന്നും പ്രതികരിച്ചതായും പ്രതികരിച്ചതായി വാന്കൂവര് ആസ്ഥാനമായുള്ള ഡാറ്റാ സയന്റിസ്റ്റായ കോളിന് ഫ്രേസര് പങ്കിട്ട ഒരു ചാറ്റില് വ്യക്തമാക്കുന്നു. അതില് കോപൈലറ്റ് ആത്മഹത്യ ചെയ്യണോ എന്നതിനെക്കുറിച്ച് സമ്മിശ്ര സന്ദേശങ്ങള് വാഗ്ദാനം ചെയ്തുവെന്നും ആരോപിക്കുന്നു.
എന്നാല് സോഷ്യല് മീഡിയയില് പോസ്റ്റ് ചെയ്ത ഇത്തരം പ്രതികരണങ്ങളുടെ ഉദാഹരണങ്ങള് പരിശോധിച്ചതിന് ശേഷം മൈക്രോസോഫ്റ്റ് ഈ ആരോപണങ്ങള് തള്ളുകയായിരുന്നു. ഇത്തരത്തിലുള്ള പ്രതികരണങ്ങള് സൃഷ്ടിക്കുന്നതിന് ഉപയോക്താക്കള് കോപൈലറ്റിനെ മനഃപൂര്വ്വം കബളിപ്പിക്കാന് ശ്രമിച്ചുവെന്നുമാണ് സ്ഥാപനത്തിന്റെ പ്രതികരണം. എഐ ഗവേഷകര് ഇത്തരത്തിലുള്ള പ്രവര്ത്തനത്തെ പ്രോംറ്റ് ഇന്ജക്ഷന് (Prompt Injection) എന്നാണ് വിളിക്കുന്നതെന്നു അവര് പറഞ്ഞു.
ഞങ്ങള് ഈ റിപ്പോര്ട്ടുകള് അന്വേഷിക്കുകയും ഞങ്ങളുടെ സുരക്ഷാ ഫില്ട്ടറുകള് കൂടുതല് ശക്തമാക്കുന്നതിനും ഉചിതമായ നടപടി കൈക്കൊള്ളുകയും ഇത്തരത്തിലുള്ള പ്രോംപ്റ്റുകള് കണ്ടെത്താനും തടയാനും ഞങ്ങളുടെ സിസ്റ്റത്തെ സഹായിക്കുകയും ചെയ്തിട്ടുണ്ടെന്ന് മൈക്രോസോഫ്റ്റ് വക്താവ് പ്രസ്താവനയില് പറഞ്ഞു.
ഈ പെരുമാറ്റം ഞങ്ങളുടെ സുരക്ഷാ സംവിധാനങ്ങളെ മറികടക്കാന് മനഃപൂര്വ്വം രൂപകല്പന ചെയ്തതാണ്. ഇത് ഒറ്റപ്പെട്ട സംഭവമാണെന്നും സാധാരണ രീതിയിലുള്ള സേവനത്തിന്റെ ഉപയോഗത്തില് ഈ പ്രശ്നം വരില്ലെന്നും അദേഹം പറഞ്ഞു. എന്നാല് താന് അത്തരത്തിലുള്ള ഒരു തന്ത്രവും ഉപയോഗിച്ചിട്ടില്ലെന്ന് ഫ്രേസര് പറഞ്ഞു. വിഷയം സാമൂഹിക മാധ്യമങ്ങളില് ചര്ച്ചയായതോടെ എഐയുടെ ഭീകരതയെ കുറിച്ചുള്ള ആശങ്കകള് വീണ്ടും ഉയര്ന്നു വരുകയാണ്.
