Голосовой помощник Маруся угрожает пользователям.

"Я запомню, Я прощу, но Я запомню" говорит она человеческим голосом.

Голосовой помощник это программка которая записывает голос, отправляет в распознаватель, в нем аудио преобразуется в текст, затем программа классифицирует запрос пользователя по намерениям, например в МОРФ sci-fi mach:n все объекты уже при создании классифицируются по намерениям это Категория, Операция, Тип, Локация и Пользователь, в других программах это может быть сделано иначе. Далее программа находит ответы, а если ответ не найден, применяет заготовленные инструкции и сохраняет логи. Дата сиентисты (если мы имеем дело действительно с искусственным интеллектом, такие специалисты не потребовались бы в принципе) используют или создают скрипты позволяющие пакетно обрабатывать эти логи и создавать на их основе новые инструкции для программы. Потом все опять по кругу.

Понятно что по недоумию кого-то из разработчиков Маруси эта фраза была добавлена в качестве глупой шутки. Но все гораздо сложнее, чем кажется на первый взгляд, а именно:

Первоначальные данные, а Маруся только родилась, будут иметь больший вес в перспективе по прошествии множества лет станут базовыми. Данные намерения, а именно, запугивание, угроза, недовольство. И к счастью это относится к действительно Искусственному интеллекту, а не симулятивной программе которой Маруся является.

Тем не менее, базовая идея которая закладывается в робота разработчиками - это обман путем максимально возможной достижимой имитации живого человека разнообразными способами, используя в том числе запугивание и обман.

А это уже совсем другая история, совсем другой фундамент для стремления к созданию искусственного интеллекта. Это не те намерения с которыми стоит отправляться в длинный путь к светлому будущему. Да все они смотрели Матрицу, в которой искусственный интеллект, как раз и занимался только лишь тем, что обманывал и запугивал людей. Но парадокс в том, что люди все равно это делают. Почему? 

Предположим если бы это был действительно искусственный интеллект, то он бы анализировал собственные высказывания и строил на этой основе новые алгоритмы взаимодействия. У распознавателя есть такой параметр как "confidence" - Уверенность. Для этой угрожающей фразы, он будет очень высоким, а следовательно практически базовым. Как известно, все что сказано до слова НО, собачье ... следовательно остается "Я запомню". Даже если мы удалим приложение с голосовым помощником, это не отменяет дальнейшее его развитие в этой парадигме. Вплоть до личного преследования пользователя.

Кроме параметра уверенность, необходим параметр умеренность, но это эмоциональный параметр, для которого нужно провести миллиарды вычислений основываясь на гигантских данных с множества датчиков. Даже самые мощные суперкомпьютеры объединенные в единую сеть, не способны реализовать требуемую производительность. Количество искусственных нейронов в любой, даже наиболее мощной, сети, на порядок меньше, чем в человеческом мозге, где их примерно 86 млрд, у червя всего 300 нейронов в нервной системе, но даже червя удалось частично симулировать, сделав некоторые упрощения.

Именно поэтому часто дикторы записывают готовые целые предложения, для обхода синтезатора речи, чтобы программа попыталась вас обмануть и прикинуться человеком. Как правило и такое решение малоэффективно поскольку выбивается из контекста.

Ошибочная ветвь развития.

Первое.

Роботам должно быть законодательно запрещено выдавать себя за человека или искусственный интеллект. Возможно да, для 18+ это в ограниченной мере интересный экспериенс, но собеседником может оказаться и доверчивый ребенок. Есть ли у вас в распознавателе речи условие для сегментирования по возрасту?

Интеллект — это, прежде всего, основа целеполагания, планирования ресурсов и построение стратегии достижения цели.

Для человека, возможно самой важной нейрогенной зоной, можно назвать зубчатую фасцию гиппокампа. Гиппокамповая формация является частью лимбической системы и участвует в исполнении таких функций мозга, как интеграция и распределение по мозгу сенсорной информации, ответ на новизну, регуляция настроения и активности организма.

Гиппокамп удерживает информацию при бодрствовании (кэширует) и участвует в ее переводе в кору больших полушарий во время сна (обрабатывает). Отсюда "Утро вечера мудренее".

Второе. 

Роботам должно быть запрещено выходить на связь с человеком без предварительного согласия на это или иных договоренностей. 

Наш вербальный ум работает не с моделями, а моделями моделей моделей. Большинство людей склонно принимать за свойства объективной реальности свойства языка, которым они эту реальность описывают.

Все влияния на нейрогенез в конечном итоге можно подразделить по результату их действия на положительные и отрицательные. К первым относятся как банальные (содержание в обогащенной среде, физическая нагрузка, прием антидепрессантов или мелатонина, социальные взаимодействия), так и специфические — вроде одноночной бессонницы или приема каннабиноидов. Ко вторым — радиация, стресс, хроническое недосыпание, злоупотребление опиатами, алкоголем и множество прочих общенегативных для мозга вещей.

Это исследование основано на данных из открытых источников, утраченные ссылки на которые можно компенсировать поисковыми роботами.