За последние недели появилось много статей и частных мнений на тему господства моделей искусственного интеллекта и chatGPT над человечеством — необходимостью нажать на паузу в техническом прогрессе в области пользовательского применения инструментов искусственного интеллекта.
Давайте рассмотрим типовые заблуждения на эту тему и задумаемся над тем, как можно использовать ту скорость инноваций в области искусственного интеллекта, с которой мы столкнулись, а если вы хотите детально разобраться с темой искусственного интеллекта запишитесь на консультацию по ИИ или стратегическую сессию для вашей компании.
Заблуждения про ChatGPT и искусственный интеллект
Изначально отмечу, что попытки разобраться как работают языковые модели на основе нейросетей без специальной подготовки и наиглубочайшему пониманию данного вопроса ни к чему не приведут, а значит знаний в данной области у нас нет, а следовательно:
Отсутствие знаний будет вызывать множество домыслов и страхов.
Кроме этого, за любыми технологиями всегда стоит капитал и влиятельные лица, а следовательно говорить «стоп» или «пауза» будут они, а не обычные обыватели — и искусственный интеллект не является исключением из правил.
И последнее, самое интересное, это ответ на вопрос:
Может ли искусственный интеллект, chatGPT или ему подобные системы научиться убивать и даже уничтожить человечество?
И ответ на это вопрос — ДА! и вот простое и логическое подтверждение:
- Давайте представим, что мы создали корабль и мы владелец корабля. Может ли корабль утонуть? — Да. Может ли он убить людей? — Да. — И замечу, при разной степени сбоев ущерб будет разный, но если сбоев нет — то корабль будет ходить по морям и океанам.
- Искусственный Интеллект, в любом его проявлении это такой же корабль, за исключением одного но: он действует не только в физическом пространстве, но и информационном!
А что такое информационное пространство?! — это ключ ко всему: нашему смартфону, банковской карте, системе запуска автомобиля и всей финансовой системе …. перечислять можно до бесконечности, но факт остаётся фактом информационное пространство интегрировано в нашу жизнь.
Что делаю технологии Искусственно Интеллекта (ИИ)?
Ответ простой:
Технологии искусственного интеллекта интегрируют в нашу повседневную жизнь, хотим мы этого или нет!!! и эту простую истину важно понимать, а не тонуть в массе информационных размышлений про ИИ.
Конечно, увеличение масштаба, скорость обработки, количество данных, приводит к тому, что языковые модели становятся «умнее» и могут интегрироваться в текущие информационные системы, совершая как информационное, так и физическое воздействие на любой объект.
И опять же, проведём аналогию с кораблем:
- Корабль становится более вместительный, быстроходный, комфортный, безопасный, но риск никто не отменял, они есть и существуют!
- Корабль по прежнему может выйти из под контроля и нанести ущерб, как случайно, так и по злому умыслу.
Может ли это сделать система искусственного интеллекта? — на уровне теории — ДА и на уровне практики разумеется тоже ДА и на это практически нельзя повлиять.
Иллюзия контроля над искусственным интеллектом
Человеку свойственно думать, что он контролирует всё, но на самом деле это далеко не так, вспоминаем аналогию с кораблём и всё становится намного яснее.
Некоторые известные эксперты по искусственному интеллекту, базируясь на классических законах робототехники Айзека Азимова ….
Первый закон категорически запрещает роботу вредить людям, второй — приказывает роботу подчиняться людям до тех пор, пока это не станет противоречить первому закону, и, наконец, третий закон приказывает роботу защищать свою жизнь, не нарушая первых двух.
… полагают, что нейросети должны иметь так называемую модель мира, но в это заключается классическая ошибка восприятия и понимания, лежащая в области логики и философии, а так же интересов сторон:
- Что есть мир?
- Какие критерии мира?
- Мир для одних, является ли миром для других?
А так как у любой системы искусственного интеллекта понимание действительности основано на иных критериях, то категории «добро и зло» / «плохо и хорошо» — будут носить субъективный и алгоритмический характер, основанный на логических выводах, а логика наука опасная, она может завести нас туда, откуда не будет выхода.
Ответственность за Искусственный Интеллект
Конечно, сразу возникает желание переложить ответственность за действия искусственного интеллекта, используя высказывание, что chatGPT и им подобные модели это интеллектуальный агент инопланетного разума, но это очередная иллюзия, так как за проектом искусственного интелекта и популяризации данной темы стоят:
- конкретные команды людей,
- капиталы,
- и разумеется план дальнеших шагов,
- который, как и любой другой план, может выйти из под контроля и начать развиваться по самостоятельному сценарию.
Возможно, отталкиваясь от понятий мотивации, целей, ценности можно сказать что и у нейросетевой языковой модели искусственного интеллекта это всё есть, но она далеко не такая как у человека или группы людей, она совершенно другая, говоря простым языком:
Системы мотивации, целеполагания и ценностей искусственного интеллекта воспитана на тех данных и их критериях, на которых она была обучена (фактически это обучение заменили им общество).
И снова мы приходим к вопросу интеллекта у агентов искусственного интеллекта и ответ очевиден: интеллект есть!
Может ли он нанести вред человеку? или человеческому обществу в целом? — конечно да!
Какие могут быть способы?
В теории любые: от точечного информационного воздействия, до взлома информационных систем, так что много раз подумайте когда будете ставить себе умный дом и это не фантастика, это реальность ближайших лет, текущий шаг эволюции человечества, как говорят многие.
Ваше мнение по данной тематике приветствуется — пишите в комментариях.
Автор статьи: Константин Савкин
Понравилась публикации про искусственный интеллект, открывайте новые возможности в бизнесе и карьере, используя искусственный интеллект (ИИ), будьте в курсе новой информации, подписывайтесь на телеграмм-канал: @AIchatGPTcapital
1 комментарий к “Искусственный Интеллект ChatGPT: игра с риском или обдуманный план”