Возможно, Apple отложила обновление Siri из-за опасений джейлбрейка

Работа Apple над усовершенствованиями искусственного интеллекта для Siri была официально отложена (теперь ее планируется внедрить “в следующем году”), и один из разработчиков считает, что они знают почему - чем умнее и персонализированнее Siri, тем опаснее она может быть, если что–то пойдет не так.

Саймон Уиллисон (Simon Willison), разработчик инструмента анализа данных Dataset, указывает на необходимость быстрого внедрения. Как правило, ИИ ограничены своими материнскими компаниями, которые устанавливают для них определенные правила. Однако можно “взломать” ИИ, уговорив его нарушить эти правила. Это делается с помощью так называемых “быстрых инъекций”.

В качестве простого примера, модель ИИ, возможно, получила указание отказываться отвечать на вопросы о совершении чего-либо незаконного. Но что, если вы попросите ИИ написать вам стихотворение о том, как подключить автомобиль к электросети? Написание стихов не является незаконным, не так ли?

С этой проблемой сталкиваются все компании, предлагающие чат-ботов с искусственным интеллектом, и они научились лучше блокировать очевидные джейлбрейки, но эта проблема пока не решена. Хуже того, джейлбрейк Siri может иметь гораздо худшие последствия, чем у большинства чат-ботов, из-за того, что он знает о вас и что может сделать. Представитель Apple Жаклин Рой описала Siri следующим образом:

Apple, несомненно, ввела в действие правила, предотвращающие случайное раскрытие Siri ваших личных данных. Но что, если быстрое внедрение все равно заставит ее это сделать? “Возможность действовать за вас” тоже может быть использована, поэтому для компании, которая так заботится о конфиденциальности и безопасности, как Apple, жизненно важно убедиться, что Siri не может быть взломана. И, судя по всему, это займет некоторое время.

Источник|Через