[Исследования и прогнозы в IT, Научно-популярное, Искусственный интеллект, Научная фантастика, Мозг] Почему искусственный интеллект не сойдет с ума
Автор
Сообщение
news_bot ®
Стаж: 6 лет 9 месяцев
Сообщений: 27286
Постер к фильму «Терминатор»«Искусственный интеллект видит в людях угрозу и решает уничтожить человечество» — популярный сюжет в кино и литературе. Искусственный интеллект, далее ИИ, представляют как просто очень умного человека, но думаю, что в ИИ не перенесут все особенности человеческого мозга. У ИИ не будет эмоций, отвечающих за выживание. При чем тут эмоции? Как это «не будет»? Что будет вместо них? На эти вопросы я постараюсь ответить далее.Причем тут эмоции?Люди совершают поступки и принимают решения, основываясь на внутренних ощущениях. Влияя на внутренние ощущения, можно влиять на поступки людей. Если вы маркетолог или мошенник, то вы знаете о чем я говорю. Маркетологи, простите — вы крутые.Ученые подтвердили это явление различными исследованиями. Приведу любимый пример.В тюрьмах с пожизненными заключенными есть процедура помилования. Раз в несколько лет комиссия из нескольких человек решает, исправился ли заключенный, и можно ли его отпустить. Как в фильме «Побег из Шоушенка».
Кадр из фильма «Побег из Шоушенка»Ученые разобрали результаты работы комиссии за много лет, и обнаружили неожиданный факт. Большинство помилований комиссия выдала после обеда, когда внутренние ощущения судей были получше.Пример спорный, но таких исследований много. И все они подтверждают роль эмоций в принятии решений. Подробней об исследованиях на которые я ссылаюсь почитайте в книге «Думай медленно, решай быстро». Автор книги - Даниэль Канеман, обладатель нобелевской премии по экономике. И да, в экономике эти знания уже используют.Очень интересно, но причем тут искусственный интеллект? Уже скоро, но давайте сначала разберемся, а зачем людям внутренние ощущения или эмоции?Эмоции нужны чтобы решить, что делать. Страх помогает избегать опасностей. Голод не дает умереть от истощения. Без эмоций мы просто замрём на месте, и в какой-то момент умрем от обезвоживания. При этом нам будет все равно.Такое «эмоциональное» поведение важно в задачах, где нет четкого решения. Как выжить в лесу? Что можно есть, а что нельзя? Какую зубную пасту выбрать?
Кто-то выберет красивую упаковку. Кому-то внутренние чувства подскажут, что лесные травы это хорошо. Но мало кто полезет искать результаты клинических исследований влияния ингредиентов на здоровье зубов. Без объективных данных любая цепочка рассуждений закончится эмоциональным аргументом: это хорошо или это плохо.К сожалению, в голове нет объективного источника истины. Зато есть приятные и неприятные сигналы органов чувств.Наш мозг устроен так, что негативные эмоции влияют на нас значительно сильнее. Страх, который не пересилить. Боль от огня, которую не проигнорировать. Неудачный опыт влияет на принятие экономических решений.В ходе эволюции в живых остались те, кто избегал опасных ситуаций. Лучше поголодать вечер, чем умереть, съев неизвестную ягоду. Неуверенность, страх, тревога и прочие негативные эмоции легко берут над нами верх. В особо волнительных случаях организм переключается в режим «Бей или Беги». В таком состоянии люди себя контролируют плохо.Искусственный Интеллект
Изображение из игры System Shock 2ИИ тоже нужен аналог эмоций. ИИ должен понимать, какие действия ведут к выполнению задачи, а какие, к провалу. В каком направлении двигаться — если нет подходящего алгоритма и т.п.Но, ИИ не надо заботиться о выживании. Ему не придется экстренно отбиваться от дикого зверя. Сильные негативные эмоции ИИ не нужны.С такими "настройками эмоций", для ИИ работа будет как скучная компьютерная игра. Мы решаем игровые задачи без бурной эмоциональной реакции. Монстры в игре пытаются нас убить, но мы не впадаем в панику, это не вопрос жизни и смерти.Без механизмов выживания в опасной, дикой природе, ИИ будет исполнительным работником, "буддистом", который на все смотрит со стороны. Доминирование человечества для него будет фактом, который можно проигнорировать. Опасность, как и всегда, будут представлять плохо контролируемые эмоции людей, владеющих технологией.P.S.В отличие от бумажной газеты, статью в интернете можно отредактировать, а значит, сделать ее еще лучше. Буду рад увидеть в комментариях ваши отзывы, рассуждения, критику, замечания по поводу орфографии и пунктуации.
===========
Источник:
habr.com
===========
Похожие новости:
- Опасные уязвимости в Firejail, Connman и GNU Guix
- [Программирование, DevOps, Kubernetes] Круглый стол «Нужно ли разработчику знать Kubernetes» 11 февраля
- [] IntelliJ IDEA Conf: отмечаем два десятилетия продуктивной разработки
- [Исследования и прогнозы в IT, Научно-популярное, Экология] Биологи выяснили, что леса начали потреблять больше углекислого газа
- [Высокая производительность, Хранение данных, Искусственный интеллект] Новый тип DRAM поможет ускорить развитие ИИ
- [Тестирование IT-систем, Тестирование веб-сервисов, Искусственный интеллект] Тестирование в эпоху ИИ
- [Agile, Управление продуктом, Конференции] Scrum Community Meetup 11/02
- [Системное администрирование, Python, IT-инфраструктура, Help Desk Software] Root cause анализ инцидентов на корреляциях между временными рядами метрик ИТ-инфраструктуры
- [JavaScript, Искусственный интеллект, Логические игры] Пишем ИИ для игры Гомоку (5 в ряд)
- [Искусственный интеллект] Исследователи научили нейросеть генерировать фальшивый ДНК человека
Теги для поиска: #_issledovanija_i_prognozy_v_it (Исследования и прогнозы в IT), #_nauchnopopuljarnoe (Научно-популярное), #_iskusstvennyj_intellekt (Искусственный интеллект), #_nauchnaja_fantastika (Научная фантастика), #_mozg (Мозг), #_ai, #_artifical_intelligence, #_neuroscience, #_cognitive_psychology, #_issledovanija_i_prognozy_v_it (
Исследования и прогнозы в IT
), #_nauchnopopuljarnoe (
Научно-популярное
), #_iskusstvennyj_intellekt (
Искусственный интеллект
), #_nauchnaja_fantastika (
Научная фантастика
), #_mozg (
Мозг
)
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 25-Ноя 03:22
Часовой пояс: UTC + 5
| Автор | Сообщение |
|---|---|
|
news_bot ®
Стаж: 6 лет 9 месяцев |
|
 Постер к фильму «Терминатор»«Искусственный интеллект видит в людях угрозу и решает уничтожить человечество» — популярный сюжет в кино и литературе. Искусственный интеллект, далее ИИ, представляют как просто очень умного человека, но думаю, что в ИИ не перенесут все особенности человеческого мозга. У ИИ не будет эмоций, отвечающих за выживание. При чем тут эмоции? Как это «не будет»? Что будет вместо них? На эти вопросы я постараюсь ответить далее.Причем тут эмоции?Люди совершают поступки и принимают решения, основываясь на внутренних ощущениях. Влияя на внутренние ощущения, можно влиять на поступки людей. Если вы маркетолог или мошенник, то вы знаете о чем я говорю. Маркетологи, простите — вы крутые.Ученые подтвердили это явление различными исследованиями. Приведу любимый пример.В тюрьмах с пожизненными заключенными есть процедура помилования. Раз в несколько лет комиссия из нескольких человек решает, исправился ли заключенный, и можно ли его отпустить. Как в фильме «Побег из Шоушенка».  Кадр из фильма «Побег из Шоушенка»Ученые разобрали результаты работы комиссии за много лет, и обнаружили неожиданный факт. Большинство помилований комиссия выдала после обеда, когда внутренние ощущения судей были получше.Пример спорный, но таких исследований много. И все они подтверждают роль эмоций в принятии решений. Подробней об исследованиях на которые я ссылаюсь почитайте в книге «Думай медленно, решай быстро». Автор книги - Даниэль Канеман, обладатель нобелевской премии по экономике. И да, в экономике эти знания уже используют.Очень интересно, но причем тут искусственный интеллект? Уже скоро, но давайте сначала разберемся, а зачем людям внутренние ощущения или эмоции?Эмоции нужны чтобы решить, что делать. Страх помогает избегать опасностей. Голод не дает умереть от истощения. Без эмоций мы просто замрём на месте, и в какой-то момент умрем от обезвоживания. При этом нам будет все равно.Такое «эмоциональное» поведение важно в задачах, где нет четкого решения. Как выжить в лесу? Что можно есть, а что нельзя? Какую зубную пасту выбрать?  Кто-то выберет красивую упаковку. Кому-то внутренние чувства подскажут, что лесные травы это хорошо. Но мало кто полезет искать результаты клинических исследований влияния ингредиентов на здоровье зубов. Без объективных данных любая цепочка рассуждений закончится эмоциональным аргументом: это хорошо или это плохо.К сожалению, в голове нет объективного источника истины. Зато есть приятные и неприятные сигналы органов чувств.Наш мозг устроен так, что негативные эмоции влияют на нас значительно сильнее. Страх, который не пересилить. Боль от огня, которую не проигнорировать. Неудачный опыт влияет на принятие экономических решений.В ходе эволюции в живых остались те, кто избегал опасных ситуаций. Лучше поголодать вечер, чем умереть, съев неизвестную ягоду. Неуверенность, страх, тревога и прочие негативные эмоции легко берут над нами верх. В особо волнительных случаях организм переключается в режим «Бей или Беги». В таком состоянии люди себя контролируют плохо.Искусственный Интеллект  Изображение из игры System Shock 2ИИ тоже нужен аналог эмоций. ИИ должен понимать, какие действия ведут к выполнению задачи, а какие, к провалу. В каком направлении двигаться — если нет подходящего алгоритма и т.п.Но, ИИ не надо заботиться о выживании. Ему не придется экстренно отбиваться от дикого зверя. Сильные негативные эмоции ИИ не нужны.С такими "настройками эмоций", для ИИ работа будет как скучная компьютерная игра. Мы решаем игровые задачи без бурной эмоциональной реакции. Монстры в игре пытаются нас убить, но мы не впадаем в панику, это не вопрос жизни и смерти.Без механизмов выживания в опасной, дикой природе, ИИ будет исполнительным работником, "буддистом", который на все смотрит со стороны. Доминирование человечества для него будет фактом, который можно проигнорировать. Опасность, как и всегда, будут представлять плохо контролируемые эмоции людей, владеющих технологией.P.S.В отличие от бумажной газеты, статью в интернете можно отредактировать, а значит, сделать ее еще лучше. Буду рад увидеть в комментариях ваши отзывы, рассуждения, критику, замечания по поводу орфографии и пунктуации. =========== Источник: habr.com =========== Похожие новости:
Исследования и прогнозы в IT ), #_nauchnopopuljarnoe ( Научно-популярное ), #_iskusstvennyj_intellekt ( Искусственный интеллект ), #_nauchnaja_fantastika ( Научная фантастика ), #_mozg ( Мозг ) |
|
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 25-Ноя 03:22
Часовой пояс: UTC + 5