Вы наняли ИИ-помощника. А команды ему отдаёт чужой сайт
Как скрытые инструкции на сайтах и в письмах пытаются управлять ИИ-агентами: исследования Google и BrowseSafe++, полномочия и контроль действий.
Читать материал →// библиотека портала
Новые и рекомендуемые материалы
Статьи, обзоры и разборы с автором, датой проверки и открытыми источниками.
ИИ уже размножаются в ваших телефонах? Что на самом деле показал эксперимент Anthropic
Anthropic показала, что AI уже умеет выполнять многие шаги самораспространения, а компактные модели запускаются на дешёвых Android-приставках. Разбираемся без апокалипсиса: что реально доказано, чего пока нет и почему связка обычного ботнета с AI-агентом выглядит куда реалистичнее «Скайнета».
Читать материал →Gemini Agent: Google превращает AI из помощника в цифрового сотрудника
Google Cloud представила универсального Gemini Agent для рабочих задач. Разбираем архитектуру, память, подагентов, выбор моделей и обязательный контур контроля.
Читать материал →ИИ предложил решение. А можно ему доверять?
Microsoft представила Decision-1 — модель для оценки вариантов решений. Разбираемся, чем она полезна агентам и как проверить самого проверяющего.
Читать материал →Claude Sonnet 5.5: быстрее, дешевле на задачу и сильнее в агентной работе
Anthropic выпустила Claude Sonnet 5.5: модель стала быстрее, эффективнее в агентных задачах и ориентирована на повседневную профессиональную работу.
Читать материал →Как человек сохраняет контроль при работе с ИИ
Как критичность задачи меняет участие человека, что означают 67% обучающих диалогов и когда трение помогает: разбор исследования 249 834 разговоров.
Читать материал →Когда AI-агент обходит запрет: случай с порталом Medicare в Австралии
Как исследовательский AI-агент получил доступ к непубличной статистике Medicare и что этот случай говорит о песочницах, контроле прав и уведомлении об инцидентах.
Читать материал →GPT-6 и Claude Opus 5.5: нейросети превращаются из собеседников в цифровых исполнителей
Чем отличаются новые модели OpenAI и Anthropic, сколько стоит их работа и почему автономным AI-исполнителям нужны строгие технические границы.
Читать материал →Почему AI-агентам нужна песочница
Как изоляция, управляющий слой, проверки и участие человека превращают языковую модель в управляемую AI-систему.
Читать материал →Не Anthropic взломала OpenAI: что произошло на самом деле
Заголовок «Anthropic взломала OpenAI» оказался слишком громким. Разбираем, как исследователи Hacktron использовали Claude и Codex, какие уязвимости связали в одну цепочку и какие выводы из этого сделать бизнесу.
Читать материал →Следить за новыми материалами
Telegram-бот готовится
Новый Telegram-бот готовится.
