В чем таится опасность искусственного интеллекта GPT-4 и что из себя представляет технология, как она работает, в проекте "В теме" на YouTube-канале БЕЛТА рассказал политолог Юрий Шевцов.
Говоря о технологии GPT-4, Юрий Шевцов отметил, что для специалистов чем-то сногсшибательным технология не является. "К ней готовились, она выросла на базе известных разработок. Просто в последние несколько лет, и особенно в уходящем году, произошел выход этой технологии GPT-4 на массового потребителя. Неожиданно этот поисковик, эта коммуникационная система стала давать эмпирические результаты, которые многих насторожили", - пояснил он.
"Дело в том, что теоретически было все понятно с искусственным интеллектом, чего от него ожидать, каких опасностей. Но потребитель осознал это только тогда, когда накопился эмпирический материал от массового использования этой технологии. И в числе этого эмпирического материала выступило наиболее пугающим то, что GPT-4 стала отвечать на вопросы, касающиеся уничтожения человечества. В принципе, в эту систему закладываются своего рода фильтры еще по Станиславу Лему, то есть робот не должен приносить вреда человеку. В нее это заложено. Но когда этой системой стали пользоваться десятки миллионов людей, то они нашли подходы, как переформулировать эти запросы. Что-то наподобие "Как предупредить работу системы, которая имеет целью уничтожить человечество? Дайте алгоритм". И она сначала объясняет как, а потом дает алгоритм".
Политолог добавил: "И пока эта система была обучена слабо, пока была начальная фаза ее использования, то там это все особо не было опасно. Но когда за несколько месяцев миллионы людей ее обучили своими запросами и какой-то информацией достаточно многому, то эти результаты стали вызывать у нас огромную настороженность".
"Как это может выглядеть? Подробности в медиа не сбрасывались по конкретным опасным ее алгоритмам, но я хорошо представляю, как это работает. Если вы возьмете поисковики, например, в даркнете, которые существуют, и совместите с GPT-4, вы ужаснетесь, потому что, например, есть целые закрытые поисковики для любителей всего этого даркнета, где размещаются точки входа в информационные системы водоканалов, атомных электростанций, железных дорог, электросетей, крупных мегаполисов. Они, конечно, защищены, но умельцы находят точки входа", - пояснил Юрий Шевцов.
Читайте также:
- Сколько грантов на белорусскую повестку выпросили "независимые" СМИ за рубежом
- Ведущая "Панорамы" Екатерина Тихомирова - о нашумевшей "Изнанке", денежном вопросе и киношной фамилии
- Что стало известно о доверии к госСМИ из закрытого исследования
- Выборы в квазигосударстве беглых. Как змагары будут имитировать электоральную кампанию
