Süni intellektin hallüsinasiyası — süni intellekt tərəfindən fakt kimi təqdim edilən yalan və ya çaşdırıcı məlumatları ehtiva edən cavab.
Məsələn, hallüsinasiya edən bir çatbotdan şirkət üçün maliyyə hesabatı hazırlamaq istənildikdə, yanlış olaraq şirkətin gəlirinin 13,6 milyard dollar olduğunu göstərə bilər. Bu cür hadisələr insan psixologiyasındakı hallüsinasiya fenomeni ilə bənzədilərək "hallüsinasiyalar" adlanır. Bununla belə, əsas fərqlərdən biri odur ki, insan hallüsinasiyası adətən yanlış qavrayışlarla əlaqələndirilir, lakin Sİ halüsinasiyası əsassız cavablar və ya inanclar kateqoriyası ilə əlaqələndirilir. Bəzi tədqiqatçılar hesab edirlər ki, xüsusi "Sİ hallüsinasiyası" termini əsassız olaraq kompüterləri antropomorflaşdırır.
Süni intellekt hallüsinasiyası 2022-ci ildə ChatGPT kimi müəyyən böyük dil modellərinin (LLM) tətbiqi ilə ortaya çıxdı. İstifadəçilər şikayət edirdilər ki, bu cür çatbotlar çox vaxt yaratdıqları məzmuna ağlabatan səslənən təsadüfi yalanları mənasız şəkildə yerləşdirirlər. 2023-cü ilə qədər analitiklər hallüsinasiyaları LLM texnologiyasında əsas problem hesab edirdilər. Bəzi təxminlərə görə çatbotların hallüsinasiya "görmə" ehtimalı 27%-dir.
Analiz
Wired tərəfindən sitat gətirilən müxtəlif tədqiqatçılar rəqib hallüsinasiyaları yüksək ölçülü statistik hadisə kimi təsnif etmişlər və ya hallüsinasiyaları kifayət qədər təlim məlumatlarının olmaması ilə əlaqələndirmişlər. Bəzi tədqiqatçılar hesab edirlər ki, insanlar tərəfindən zamanı "hallüsinasiyalar" kimi təsnif edilən bəzi "yanlış" cavablar əslində təlim məlumatları ilə əsaslandırıla bilər və ya hətta süni intellekt insanların görə bilmədiyi "düzgün" cavabı verir.
Məsələn, insana adi bir it kimi görünən obrazın süni intellekt tərəfindən əslində (real şəkillərdə) yalnız pişiyə baxarkən görünən kiçik modellər ehtiva etdiyi görülə bilər. Süni intellekt insanların həssas olmadığı real dünyadakı vizual nümunələri oxuyur. Ancaq bu fikirlər digər tədqiqatçılar tərəfindən qəbul edilməyib. Məsələn, modellərin səthi statistikaya qarşı qərəzli ola biləcəyi və bunun rəqib təlimin real dünya ssenarilərində möhkəm olmamasına səbəb ola biləcəyi bildirildi.
İstinadlar
- . www.merriam-webster.com (ingilis). 2023-10-21. 2023-10-07 tarixində . İstifadə tarixi: 2023-10-29.
- Joshua Maynez; Shashi Narayan; Bernd Bohnet; Ryan McDonald. // Proceedings of The 58th Annual Meeting of the Association for Computational Linguistics (ACL) (2020). 2020. arXiv:. 2023-09-26 tarixində . İstifadə tarixi: 2023-09-26.
- ↑ Ji, Ziwei; Lee, Nayeon; Frieske, Rita; Yu, Tiezheng; Su, Dan; Xu, Yan; Ishii, Etsuko; Bang, Yejin; Dai, Wenliang; Madotto, Andrea; Fung, Pascale. (pdf). ACM Computing Surveys. Association for Computing Machinery. 55 (12). November 2022: 1–38. arXiv:. doi:. 26 March 2023 tarixində . İstifadə tarixi: 15 January 2023.
- Lin, Connie. . Fast Company. 5 December 2022. 29 March 2023 tarixində . İstifadə tarixi: 6 January 2023.
- Edwards, Benj. . Ars Technica (ingilis). 6 April 2023. 11 June 2023 tarixində . İstifadə tarixi: 11 June 2023.
- Zhuo, Terry Yue; Huang, Yujin; Chen, Chunyang; Xing, Zhenchang. "Exploring AI Ethics of ChatGPT: A Diagnostic Analysis". 2023. arXiv: [].
- Seife, Charles. . Slate. 13 December 2022. 26 March 2023 tarixində . İstifadə tarixi: 16 February 2023.
- Leswing, Kif. . CNBC (ingilis). 14 February 2023. 16 February 2023 tarixində . İstifadə tarixi: 16 February 2023.
- . The New York Times. 2023-12-07 tarixində . İstifadə tarixi: 2023-12-07.
- Matsakis, Louise. . Wired. 8 May 2019. 26 March 2023 tarixində . İstifadə tarixi: 29 December 2022.
- ↑ Gilmer, Justin; Hendrycks, Dan. . . 4 (8). 2019-08-06. doi:. 2023-01-15 tarixində . İstifadə tarixi: 2023-01-24.
Əlavə ədəbiyyat
- Wiley, Jon; Sons. Machine hallucinations: architecture and artificial intelligence. Oxford: John Wiley & Sons. 2022. ISBN 9781119748847.
- del Campo, Matias; Leach, Neil. . Architectural Design. 92 (3). may 2022: 6–13. doi:.