Dost süni intellekt — bəşəriyyətə müsbət (zərərsiz) təsir göstərəcək və ya ən azı insan maraqları ilə üst-üstə düşəcək və ya insan növünün təkmilləşdirilməsinə töhfə verəcək hipotetik süni ümumi intellekt. Bu, süni intellekt etikasının bir hissəsidir və ilə sıx əlaqəlidir. Maşın etikası süni intellekt agentinin necə davranması ilə məşğul olsa da, dost süni intellekt araşdırmaları bu davranışı praktik olaraq necə həyata keçirməyə və onun adekvat şəkildə məhdudlaşdırılmasını təmin etməyə yönəlib.
Etimologiyası və istifadəsi
.jpg)
Bu termin insani dəyərləri etibarlı şəkildə həyata keçirən superintellekt süni agentləri müzakirə etmək ideyasını populyarlaşdırması ilə tanınan tərəfindən icad edilmişdir. və aparıcı süni intellekt kitabı olan "Süni intellekt: Müasir yanaşma" ideyanı belə təsvir edir:
|
Yudkovski (2008) Dost Sİ dizaynı haqqında daha ətraflı məlumat verir. O iddia edir ki, dostluq (insanlara zərər verməmək istəyi) əvvəldən yaradılmalıdır, lakin dizaynerlər həm dizaynlarının qüsurlu ola biləcəyini, həm də robotun öyrənib inkişaf edəcəyini dərk etməlidirlər. Beləliklə, problem mexanizm dizaynından biridir - nəzarət və tarazlıq sistemi altında süni intellekt sistemlərinin təkamül mexanizmini müəyyənləşdirmək və sistemlərə bu cür dəyişikliklər qarşısında dost qalacaq faydalı funksiyalar vermək. |
|
"Dost" bu kontekstdə texniki terminologiya kimi istifadə olunur və danışıq mənasında "dost" olanları deyil, təhlükəsiz və faydalı agentləri seçir. Konsepsiya ilk növbədə zəkada sürətlə partlayan rekursiv şəkildə özünü təkmilləşdirən süni agentlərin müzakirələri kontekstində, bu hipotetik texnologiyanın insan cəmiyyətinə böyük, sürətli və idarə olunması çətin təsir göstərəcəyinə əsaslanaraq istifadə olunur.
İstinadlar
- ↑ ; . . Prentice Hall. 2009. ISBN 978-0-13-604259-4.
- Leighton, Jonathan. The Battle for Compassion: Ethics in an Apathetic Universe. Algora. 2011. ISBN 978-0-87586-870-7.
-
Tegmark, Max. Life, Our Universe and Everything // (First). Knopf Doubleday Publishing. 2014. ISBN 9780307744258.
Its owner may cede control to what Eliezer Yudkowsky terms a "Friendly AI,"...
- Wallach, Wendell; Allen, Colin. . Oxford University Press, Inc. 2009. ISBN 978-0-19-537404-9.
Əlavə ədəbiyyat
- Yudkowsky, E. . In Global Catastrophic Risks, Oxford University Press, 2008.
Discusses Artificial Intelligence from the perspective of . In particular, Sections 1-4 give background to the definition of Friendly AI in Section 5. Section 6 gives two classes of mistakes (technical and philosophical) which would both lead to the accidental creation of non-Friendly AIs. Sections 7-13 discuss further related issues. - Omohundro, S. 2008 The Basic AI Drives Appeared in AGI-08 - Proceedings of the First Conference on Artificial General Intelligence
- Mason, C. 2008 2022-01-09 at the Wayback Machine Appears in 2008 Workshop on Meta-Reasoning:Thinking About Thinking
- Froding, B. and Peterson, M 2021 Ethics and Information Technology volume 23, pp 207–214.
Xarici keçidlər
- by Nick Bostrom
- — A brief description of Friendly AI by the Machine Intelligence Research Institute.
- — A near book-length description from the MIRI
- — by
- — by Peter Voss.
- — On the motives for and impossibility of FAI; by Adam Keiper and Ari N. Schulman.