Маск, Возьняк і іншыя тэхналягічныя лідэры заклікалі прыпыніць навучаньне новых сыстэм штучнага інтэлекту праз «пагрозу грамадзтву»

Ліст апублікавала фінансаваная Маскам амэрыканская некамэрцыйная арганізацыя Future of Life Institute, яго падпісалі больш за тысячу чалавек.

Сярод тых, хто падпісаў ліст, ёсьць вядомыя навукоўцы ў галіне штучнага інтэлекту: канадыец Ешуа Бэнжыа і брытанец Ст'юарт Расэл. Ліст таксама падпісалі сузаснавальнік Apple Стыў Возьняк, гісторык Юваль Ной Гарары. Акрамя таго, сярод падпісантаў — распрацоўнікі сыстэм штучнага інтэлекту з кампаній, якія канкуруюць з прадуктамі OpenAI. Сам Маск быў сузаснавальнікам гэтай кампаніі, але пакінуў яе ў 2018 годзе, а пазьней прадаў акцыі, якія яму належалі.

У тэксьце сьцьвярджаецца, што сыстэмы штучнага інтэлекту могуць зьмяніць разьвіцьцё чалавецтва, і таму распараджацца імі трэба з сувымернай гэтаму ўвагай і адпаведнымі рэсурсамі. «Магутныя сыстэмы штучнага інтэлекту варта распрацоўваць толькі тады, калі мы ўпэўненыя, што эфэкты ад іх працы будуць станоўчыя, а рызыкі кіраваныя», — гаворыцца ў тэксьце.

Аўтары адзначаюць, што сучасныя сыстэмы штучнага інтэлекту здольныя канкураваць з чалавекам у рашэньні шырокага спэктру задач, таму чалавецтва павінна вырашыць, ці павінны быць цалкам аўтаматызаваныя працы, ці павінны людзі рызыкаваць «стратай кантролю над цывілізацыяй» і ці павінны людзі распрацоўваць сыстэмы, якія будуць разумнейшыя за людзей і зробяць чалавека «безнадзейна састарэлым».

У звароце гаворыцца, што такія рашэньні не павінны давярацца лідэрам тэхналягічнай галіны, якіх ніхто не абіраў. Падпісанты прапануюць на паўгода прыпыніць распрацоўку любых сыстэм штучнага інтэлекту больш магутных, чым ужо існуючая ў публічнай прасторы мадэль GPT-4, распрацаваная кампаніяй OpenAI.