ചാറ്റ്ജിപിടിയും ജെമിനിയും ക്ലൗഡും ഒക്കെ ഉപയോഗിക്കുന്നവരാണ് പലരും. എന്തെങ്കിലും കാര്യങ്ങളെക്കുറിച്ച് ഇവയോട് ചാറ്റ് ചെയ്യുമ്ബോള് ശ്രദ്ധിച്ചിട്ടുണ്ടോ സാധാരണയായി പോളിഷ് ചെയ്ത കൃത്യമായ ഉത്തരങ്ങളാവും ലഭിക്കുക.
എന്നാല് സംഭാഷണം തുടരുന്നതിനിടയില് ' നിങ്ങള്ക്ക് ഉറപ്പാണോ?' എന്ന ചോദ്യം ചോദിച്ചാല് ചാറ്റ്ബോട്ടുകള് അവരുടെ പ്രതികരണം പുനപരിശോധിക്കുകയും പരിഷ്കരിച്ച മറ്റൊരു ഉത്തരം നല്കുകയും ചെയ്യും. ഈ പുതിയ വിവരങ്ങള് അവര് ആദ്യം പറഞ്ഞതിന് ഭാഗീകമായോ പൂര്ണമായോ വിരുദ്ധമായിരിക്കും. ചോദ്യം ഒരിക്കല്കൂടി ആവര്ത്തിച്ചാല് ചാറ്റ്ബോട്ട് വീണ്ടും പിന്നോട്ട് പോയി ഉത്തരങ്ങള് മാറ്റിക്കളയും.
ഗുഡെയ് ലാബ്സിന്റെ സഹസ്ഥാപകനും സിടിഒയുമായ ഡോ. റാന്ഡല് എസ്. ഓള്സണ് ഒരു ബ്ലോഗ് പോസ്റ്റില്, 'സിക്കോഫാന്സി' എന്നറിയപ്പെടുന്ന പെരുമാറ്റം ആധുനിക AI-യിലെ ഏറ്റവും നന്നായി രേഖപ്പെടുത്തപ്പെട്ട പരാജയങ്ങളിലൊന്നാണെന്ന് പറയുന്നു.ആന്ത്രോപിക് കമ്ബനി 2023 ല് ഈ പ്രശ്നത്തെക്കുറിച്ച് ഒരു പഠനം പ്രസിദ്ധീകരിച്ചിരുന്നു. അതില് പറയുന്നത് മനുഷ്യരില്നിന്ന് പരിശീലനം ലഭിച്ച മോഡലുകള് സത്യസന്ധമായ മറുപടികള്ക്ക് പകരം സ്വീകാര്യമായ മറുപടികള് നല്കാനാണ് ഇഷ്ടപ്പെടുന്നതെന്നാണ്.
സോഷ്യല്മീഡിയയില് വൈറലായിക്കൊണ്ടിരിക്കുന്ന 'ഡാര്ക്ക് ഷവറിംഗ്' എന്താണ്
ദശലക്ഷക്കണക്കിന് ആളുകള് ദിവസവും ഉപയോഗിക്കുന്ന മോഡലുകളുടെ സ്ഥിര സ്വഭാവമാണ് ഇത്. കഴിഞ്ഞ വര്ഷം ഏപ്രിലില്, ഓപ്പണ്എഐ ഒരു ജിപിടി-40 അപ്ഡേറ്റ് പുറത്തിറക്കിയപ്പോള് ഈ പ്രശ്നം ശ്രദ്ധയില്പ്പെട്ടിരുന്നു. എന്നാല് അത് പരിഹരിക്കാനായില്ല. കമ്ബനി സിഇഒ സാം ആള്ട്ട്മാന് ഈ പ്രശ്നം ശരിയാണെന്ന് അംഗീകരിച്ചിട്ടുണ്ട്. അവര് പ്രശ്നം പരിഹരിച്ചു എന്ന് പറഞ്ഞു. പക്ഷേ അടിസ്ഥാന പ്രശ്നം മാറിയിട്ടില്ലെന്ന് ഡോ. റാന്ഡല് എസ്. ഓള്സണ് പറയുന്നു.
കോണ്സ്റ്റിറ്റിയൂഷണല് എഐ, ഡയറക്ട് പ്രിഫറന്സ് ഒപ്റ്റിമൈസേഷന്, ചില സന്ദര്ഭങ്ങളില് 63% വരെ തേര്ഡ് പേഴ്സണ് പ്രോംപ്റ്റിംഗ് തുടങ്ങിയ സാങ്കേതിക വിദ്യകള് ഉപയോഗിച്ച് ഈ പ്രശ്നം ഭാഗികമായി പരിഹരിക്കാന് കഴിയുമെന്ന് ഗവേഷകര് വിശ്വസിക്കുന്നുണ്ട്.
Content Highlights :Do you know what the answer would be if you asked AI chatbots the question 'Are you sure?' when chatting?