19 Jul 2026, 18:07 UTC179 views14 reactions15 Starsread 8 August 2026 Новая категория атак на AI-агентов с долговременной памятью
Незаметка
#ai #cybersecurity #ghostwriter #aisecurity #незаметки
The Engine Room👾
custom 52177973308618269813custom 53639251449075549913custom 54065788430812582683custom 53730660765589965682custom 53751357225146855012custom 53642014358587448691
16 Jun 2026, 11:37 UTC569 views11 reactions17 Starsread 8 August 2026 GAS (Genetic Algorithm-Based Suffix) Leak LLM - black-box атака на LLM, где подбор суффиксов происходит автоматически
Незаметка
#ai #cybersecurity #gas #aisecurity #незаметки
The Engine Room👾
custom 53730660765589965685custom 53642014358587448693custom 54069012233264954662custom 53751357225146855011
26 May 2026, 10:18 UTC830 views11 reactions11 Starsread 8 August 2026 Документ “AI Cybersecurity Careers 2026” от SANS. Рассказывают о том, какие AI Security роли уже востребованы, как ИИ меняет кибербезопасность и почему ближайшие 2–3 года станут ключевыми для специалистов в области AI Security.
Незаметка
#ai #cybersecurity #sans #aisecurity #незаметки
The Engine Room👾
custom 53730660765589965684custom 53751357225146855014custom 52177973308618269811custom 53642014358587448691custom 54069012233264954661
23 May 2026, 10:04 UTC452 views13 reactions7 Starsread 8 August 2026 Flipper One - возможно один из самых интересных хардварных проектов. Текущая версия направлена на сетевую безопасность и всё вокруг.
Команда открыто говорит не только о промоушене и как все гладко, но и о том какие финансовые и инженерные сложности приходится преодолевать. Очень крутые ребята!
https://habr.com/ru/amp/publications/1033162/
The Engine Room👾
custom 52177973308618269815custom 53638139396143271835custom 54065788430812582682custom 53751357225146855011
15 May 2026, 06:28 UTC483 views12 reactions6 Starsread 8 August 2026 Хакатон от Google и Kaggle 15-19 июня. Бесплатный 5-дневный интенсив по AI-агентам и вайб кодингу.
По дням:
* день 1 — архитектура AI-агентов и multi-agent workflows
* день 2 — tools, MCP и интеграция с внешними сервисами
* день 3 — память, сессии и контекст инжиниринг
* день 4 — наблюдаемость, оценка, секурность и дебаг агентов
* день 5 — деплой, замеры и прод ИИ систем
The Engine Room👾
custom 52177973308618269814custom 53638139396143271833custom 53639251449075549912custom 53730660765589965681custom 53751357225146855011custom 54069012233264954661
6 May 2026, 12:13 UTC354 views8 reactionsread 8 August 2026 Отличный гайд как надо и как НЕ надо
custom 52177973308618269813custom 54065788430812582683custom 53642014358587448691custom 53751357225146855011
6 May 2026, 12:13 UTC460 views15 reactions10 Starsread 8 August 2026 Forwarded from @machine_head_ru
ИИ в больших инженерных командах
Давно собирался расписать.
В разговорах с тимлидами и CTO постоянно одна и та же картина: дали кодерам ИИ (тот же Cursor), надеялись на буст продуктивности, а бустанули число инцидентов или просто замедлились в тех или иных местах.
Непопулярное мнение, которое я транслирую в кулуарных обсуждениях: синьоры, которые саботируют ваше внедрение, в большинстве случаев правы. Если на них…
custom 52177973308618269815custom 54069012233264954665custom 53730660765589965684custom 53751357225146855011
24 Apr 2026, 11:46 UTC537 views13 reactions3 Starsread 8 August 2026 Photo
OpenAI выкатили System Card GPT-5.5 и, если коротко, то это уже не просто “модель”, а полноценный агент для реальной работы 🤖
1) Модель прокачали в практико-ориентированных задачах, теперь она сама лучше понимает задачу, требует меньше инструкций, умеет пользоваться инструментами и доводить задачи до конца без постоянного контроля
2) По этике - уровень примерно как у GPT-5.4, без резких деградаций, однако есть мелки…
custom 53642014358587448694custom 54069012233264954664custom 53730660765589965683custom 53639251449075549911custom 53751357225146855011
22 Apr 2026, 09:25 UTC542 views17 reactions4 Starsread 8 August 2026 File
Практическое руководство по безопасности ИИ от Harriet Farlow с фокусом не на теорию, а на реальные атаки и защиту современных AI-систем.
Охватывает весь стек AI Security:
* Основы ML и архитектуры моделей;
* Модели угроз и анализ атакующей поверхности AI-систем;
* Практические атаки - adversarial, data poisoning, prompt injection, model extraction и др.;
* Методы защиты от обучения до системного контроля и mitigat…
custom 53642014358587448695custom 53730660765589965683custom 53751357225146855013custom 52177973308618269812custom 54065788430812582682custom 54069012233264954662
20 Apr 2026, 16:03 UTC383 views11 reactions3 Starsread 8 August 2026 Открытая база уязвимостей и отказов в системах с применением ИИ
Предназначена для анализа рисков, red teaming и оценки безопасности AI-систем на основе воспроизводимых кейсов.
В базе:
* Реальные инциденты и отчёты об уязвимостях в AI-системах
* Описания паттернов атак и типовых слабых мест моделей и пайплайнов
* Метаданные по влиянию - тип вреда, затронутые системы, уровень риска
* Связки с существующими стандартам…
custom 53730660765589965684custom 54069012233264954664custom 53642014358587448693
19 Apr 2026, 10:52 UTC343 views16 reactions5 Starsread 8 August 2026 Прокси-инструмент для безопасной работы с LLM через анонимизацию чувствительных данных.
Предназначен для пентеста и работы с приватной инфраструктурой без утечек.
Умеет:
* Перехват и модификация запросов к LLM API с заменой чувствительных данных на суррогаты
* Деанонимизация ответов — возвращает оригинальные значения пользователю
* Детекция PII через комбинацию regex и LLM
* Поддержка IP, доменов, email, токенов, им…
custom 53642014358587448696custom 53730660765589965685custom 54069012233264954664custom 53751357225146855011
17 Apr 2026, 05:11 UTC293 views12 reactions3 Starsread 8 August 2026 Незаметка
#ai #cybersecurity #aisecurity #mcp #незаметки
The Engine Room👾
custom 54065788430812582684custom 53642014358587448693custom 54069012233264954663custom 52177973308618269811custom 53751357225146855011
Showing the 12 most recent of 20 posts we hold for @TheEngineRoom. View and reaction counts are the latest single reading for each post, not a live figure, and a recent post is still accumulating both. A view count marked ≈ was rounded by Telegram before we ever saw it — t.me prints views in full below 1,000 and to three significant figures above, so ≈1,200,000 means somewhere between 1,150,000 and 1,249,999. Unmarked counts are exact. Text is reproduced from the public post preview and truncated for length.