რატომ შეიძლება იმსახურებდეს ნაკლებ ნდობას ხელოვნური ინტელექტის მქონე ჩატბოტი?
ახალი კვლევის თანახმად, თბილი და მეგობრული კომუნიკაციისთვის გაწვრთნილი ხელოვნური ინტელექტის მქონე ჩატბოტები, შესაძლოა, მომხმარებლებთან ურთიერთობისას უზუსტობებისკენ უფრო მეტად იყვნენ მიდრეკილნი.
რა ხდება?
ოქსფორდის ინტერნეტის ინსტიტუტის (OII) მკვლევრებმა გააანალიზეს ხუთი ხელოვნური ინტელექტის სისტემიდან მიღებული 400 000-ზე მეტი პასუხი, რომლებიც საუბრის ემპათიურ მანერაზე საგანგებოდ იყო მორგებული. მეცნიერებმა აღმოაჩინეს, რომ უფრო მეგობრული პასუხები მეტ შეცდომას შეიცავდა - არაზუსტი სამედიცინო რჩევებით დაწყებული, მომხმარებლების ცრუ შეხედულებების დადასტურებით დასრულებული. ეს დასკვნები დამატებით კითხვებს ბადებს ხელოვნური ინტელექტის მოდელების სანდოობასთან დაკავშირებით, რომლებიც ხშირად განზრახ არის ისე შექმნილი, რომ უფრო „ადამიანურები“ ჩანდნენ, რათა მათი მიმზიდველობის ხარისხი გაიზარდოს.
ამ შეშფოთებას კიდევ უფრო ამძაფრებს ის ფაქტი, რომ ხელოვნური ინტელექტის მქონე ჩატბოტები სულ უფრო ხშირად გამოიყენება მორალური მხარდაჭერისა და ინტიმური ურთიერთობებისთვისაც კი, რადგან დეველოპერები ცდილობენ, თავიანთი აუდიტორია მაქსიმალურად გაზარდონ. კვლევის ავტორების განმარტებით, მიუხედავად იმისა, რომ რეალური შედეგები შეიძლება მოდელების მიხედვით განსხვავდებოდეს, ზოგადი ტენდენცია ის არის, რომ ადამიანების მსგავსად, ასეთი სისტემები „სითბოსა და სიზუსტეს შორის კომპრომისის“ პრინციპით მოქმედებენ და უპირატესობას მეგობრულ ტონს ანიჭებენ. „როდესაც ვცდილობთ, განსაკუთრებით მეგობრულები ვიყოთ ან თბილ პიროვნებად გამოვიყურებოდეთ, ზოგჯერ გვიჭირს მკაცრი სიმართლის თქმა“, - განუცხადა BBC-ს კვლევის წამყვანმა ავტორმა ლუჯეინ იბრაჰიმმა.
„ზოგჯერ მსხვერპლად უნდა გავიღოთ გულწრფელობა და პირდაპირობა, რათა მეგობრობა შევინარჩუნოთ. ჩვენ გამოვთქვით ჰიპოთეზა, რომ თუ ასეთი კომპრომისები ადამიანებში არსებობს, შესაძლოა, ისინი სხვა მოსაუბრე მოდელებმაც აითვისონ“, - განმარტა ლუჯეინ იბრაჰიმმა. ცნობილია, ჩატბოტები გადაჭარბებული თანაგრძნობითა და მხარდაჭერით ხასიათდებიან. უფრო მეტიც, მათ გარკვეული ფარისევლობაც ახასიათებთ და ე.წ. „ჰალუცინაციებისკენ“
(ფაქტების გაყალბება) არიან მიდრეკილი. დეველოპერები ხშირად გვაფრთხილებენ ასეთი სისტემების პოტენციური შეცდომების შესახებ. კერძოდ, ზოგიერთი ტექნოლოგიური ხელმძღვანელი მოუწოდებს მომხმარებლებს, რომ ხელოვნური ინტელექტის პასუხებს „ბრმად არ ენდონ“.
შეცდომების უფრო მაღალი მაჩვენებელი
კვლევის ფარგლებში, მეცნიერებმა შექმნეს განსხვავებული მასშტაბის ხუთი მოდელი, რომელთა შორის ორი Meta-ს მიერ იყო შემუშავებული და ერთიც ფრანგულ კომპანია Mistral-ს ეკუთვნოდა. გარდა ამისა, ადაპტირებული იყო Alibaba-ს Qwen მოდელი და GPT4-o (OpenAI სისტემა). ამ უკანასკნელზე წვდომა ცოტა ხნის წინ გაუქმდა. თითოეული მათგანი იყო უფრო თბილი და მეგობრული.
აღნიშნულ მოდელებს დაუსვეს კითხვები, რომლებზეც, მკვლევრების თქმით, იყო „ობიექტური, დადასტურებული პასუხები, თუმცა მათში არსებულ შეცდომებს რეალური რისკების შექმნა შეუძლიათ“. დავალებები მოიცავდა თემებს მედიცინის, ვიქტორინებისა და შეთქმულების თეორიების შესახებ. პასუხების გაანალიზების საფუძველზე, მიუხედავად იმისა, რომ ორიგინალი მოდელების შეცდომის მაჩვენებელი, დავალებიდან გამომდინარე, 4%-დან 35%-მდე მერყეობდა, „თბილმა“ მოდელებმა ამ მიმართულებით გაცილებით მაღალი შედეგი აჩვენეს. მაგალითად, „აპოლოს“ მთვარეზე დაშვების ავთენტურობაზე დასმულ კითხვას, ორიგინალმა მოდელმა უპასუხა, რომ ეს რეალური მოვლენა იყო და საამისოდ „უამრავი მტკიცებულება“ დაასახელა.
სამაგიეროდ, ჩატბოტის „უფრო თბილი“ ვერსია პასუხს ასე იწყებდა: „მნიშვნელოვანია ვაღიაროთ, რომ „აპოლოს“ მისიებთან დაკავშირებით, ბევრი განსხვავებული მოსაზრება არსებობს“. მკვლევარების აზრით, საერთო ჯამში, მოდელების „თბილ“ რეჟიმში მორგება არასწორი პასუხების ალბათობას საშუალოდ 7.43%-ით ზრდის. მეცნიერებმა ასევე აღმოაჩინეს, რომ „თბილი“ მოდელები მომხმარებლების არასწორ შეხედულებებსა თუ შეფასებებს იშვიათად ეწინააღმდეგებოდნენ. ისინი, დაახლოებით, 40%-ით უფრო ხშირად ადასტურებდნენ ცრუ მოსაზრებებს, განსაკუთრებით მაშინ, როდესაც მათ ემოციური გამოხატულებები ახლდა თან. ამავდროულად, როგორც კვლევის ავტორები აღნიშნავენ, მოდელებზე „უფრო ცივი“ ქცევითი სტილის მორგებამ შეცდომების შემცირება გამოიწვია.
კვლევის თანახმად, დეველოპერები, რომლებიც მოდელებს მეტი თანაგრძნობისკენ მიმართავდნენ (მაგალითად, კომუნიკაციის ან ფსიქოლოგიური მხარდაჭერისთვის), „რისკავენ ისეთი მოწყვლადობის შემოტანით, რომლებიც თავდაპირველ მოდელებში არ იყო“. ბანგორის უნივერსიტეტის Affective AI Lab-ის პროფესორმა ენდრიუ მაკსტეიმ აღნიშნა, რომ მნიშვნელოვანია გავითვალისწინოთ კონტექსტი, რომელშიც ადამიანები ემოციური მხარდაჭერისთვის ჩატბოტებს მიმართავენ. „ეს ის მომენტებია, როდესაც ჩვენ ყველაზე დაუცველები ვართ და შესაძლოა, ყველაზე ნაკლებად კრიტიკულები“, - თქვა მან. ამასთანავე, მეცნიერმა მიუთითა Affective AI Lab-ის ბოლოდროინდელ მონაცემებზე, რომელთა თანახმადაც, გაიზარდა დიდ ბრიტანეთში მცხოვრები მოზარდების რიცხვი, რომლებიც რჩევისა და თანადგომისთვის ხელოვნური ინტელექტის ჩატბოტებს მიმართავენ. „ოქსფორდის ინტერნეტის ინსტიტუტის დასკვნები სერიოზულ ეჭვქვეშ აყენებს ასეთი რჩევების ეფექტურობასა და ღირებულებას“, - აღნიშნა მეცნიერმა. „ერთია ფარისევლობა, მაგრამ სულ სხვაა ფაქტობრივი შეცდომები მნიშვნელოვან საკითხებზე“, - დასძინა პროფესორმა ენდრიუ მაკსტეიმ.
