تاثير منفي هوش مصنوعي بر حافظه انسان

خلاصه‌هاي توليدشده توسط هوش مصنوعي به طور فزاينده‌اي در حال رايج شدن هستند؛ از پيش‌نمايش مقاله‌هاي خبري گرفته تا رونوشت جلسات محل کار و موارد حساس مانند فيلم دوربين‌هاي نصب‌شده روي لباس پليس. با وجود اين، يک پژوهش جديد نشان مي‌دهد که هوش مصنوعي ممکن است اطلاعات گمراه‌کننده يا نادرستي را توليد کند.

به نقل از يورک‌الرت، پژوهش انجام‌شده توسط گروهي از پژوهشگران «دانشگاه جورج‌تاون»(Georgetown University) و «دانشگاه واشنگتن»(University of Washington) نشان مي‌دهد که وقتي از سيستم‌هاي هوش مصنوعي خواسته مي‌شود ويديويي را خلاصه کنند، ارائه اطلاعات نادرست توسط آنها مي‌تواند بر حافظه و درک افراد از حقيقت تأثير بگذارد و آن را دستخوش تغيير کند.

«يوشي کوهنو»(Yoshi Kohno) از پژوهشگران اين پروژه گفت: اين پژوهش بخشي از تلاشي فزاينده در دانشگاه جورج‌تاون است که با تکيه بر روان‌شناسي و علوم رايانه انجام شده و بر بررسي تأثير هوش مصنوعي و انسان بر يکديگر و رابطه ميان آنها تمرکز دارد.

خلاصه‌هاي تهيه‌شده توسط هوش مصنوعي ممکن است جزئيات مهمي را از قلم بيندازند. يافته‌هاي پيشين نيز اين موضوع را تأييد مي‌کنند. رايج‌ترين نوع خطا در اين پژوهش، حذف يا عدم اشاره به رويدادهاي اصلي يک ويديوي انيميشني مربوط به تصادف خودرو با عابر پياده بود. در همه دستورها (پرامپت‌ها) و مدل‌ها، اين خلاصه‌ها به ‌طور ميانگين 6/51 درصد از جزئيات محوري را حذف کردند. به‌جز يک مورد، همه خلاصه‌ها (95 درصد) اصلي‌ترين جزئيات رويداد موجود در ويديو يعني برخورد خودرو با عابر پياده را از قلم انداختند.

خلاصه‌ گمراه‌کننده‌ هوش مصنوعي مي‌تواند حافظه‌ افراد را درباره يک رويداد تحريف کند. در اين پژوهش، از شرکت‌کنندگان پرسيده شد که خودروي موجود در ويديو به تابلوي «ايست» رسيده است يا تابلوي «حق تقدم». پژوهشگران دريافتند 83.6 درصد از شرکت‌کنندگاني که خلاصه‌اي حاوي اطلاعات دقيق درباره‌ ويديو را مطالعه کرده بودند، پاسخ درست دادند؛ در حالي که پس از خواندن خلاصه‌اي گمراه‌کننده، تنها 44.8 درصد از شرکت‌کنندگان پاسخ درست را ارائه کردند.

افراد ممکن است صرف‌نظر از اين که تصور کنند خلاصه توسط هوش مصنوعي نوشته شده يا انسان، در برابر اطلاعات نادرست موجود در خلاصه‌هاي هوش مصنوعي آسيب‌پذير باشند. در اين پژوهش، تأثير خلاصه‌هاي گمراه‌کننده هوش مصنوعي بر حافظه انسان، به ميزان اعتماد يا آشنايي افراد با هوش مصنوعي وابسته نبود.

«ماتيا سيم»(Mattea Sim)، سرپرست اين پژوهش گفت: هوش مصنوعي، روشي نوين براي انتشار اطلاعات نادرست است و اين پتانسيل را دارد که در ذهن خوانندگان آن اطلاعات، خاطرات کاذب ايجاد کند. به گمانم بايد بسيار عميق و نقادانه بينديشيم که آيا هوش مصنوعي بايد براي خلاصه‌سازي اطلاعات به کار گرفته شود يا خير و اگر پاسخ مثبت است، اين کار چگونه بايد انجام بگيرد؛ به‌ويژه در موقعيت‌هايي که پيامدهاي بسيار مهم و حساسي دارند.