25 Sept 2024, 05:14 UTC≈2,300 views6 reactionsread 8 August 2026 Последняя подборка статей с #ACL2024. На этот раз коснёмся демо статей и инструментов, которые будут полезны в исследовании и разработке.
* GenGO: ACL Paper Explorer with Semantic Features
* LM Transparency Tool: Interactive Tool for Analyzing Transformer Language Models
* NLP-KG: A System for Exploratory Search of Scientific Literature in Natural Language Processing
* DataDreamer: A Tool for Synthetic Data Generatio…
🔥3👍2❤1
22 Sept 2024, 12:50 UTC≈2,010 views5 reactionsread 8 August 2026 Следующая подборка статей с #ACL2024 посвящена задачам извлечения информации:
* Hypergraph based Understanding for Document Semantic Entity Recognition
* Description Boosting for Zero-Shot Entity and Relation Classification
* Argument-Aware Approach To Event Linking
* AlignRE: An Encoding and Semantic Alignment Approach for Zero-Shot Relation Extraction
* Statements: Universal Information Extraction from Tables with …
🔥4👍1
16 Sept 2024, 23:08 UTC≈1,770 views7 reactionsread 8 August 2026 Photo
О новом "думающем" GPT o1-preview
Современный человеческий мозг обладает логическим мышлением. То есть способностью применять определённые законы мышления, вне зависимости от контекста.
С философской точки зрения, существует формальная логика, та, которая иногда изучается в школе и чаще используется в жизни и элементарной математике, и диалектическая логика, та, которая изучает процессы и применяется уже в высшей мат…
🔥3👎2❤1👍1
12 Sept 2024, 19:32 UTC932 views4 reactionsread 8 August 2026 Это вторая часть подборки статей с #ACL2024. Эта часть тоже преимущественно посвящена LLM:
* When Phrases Meet Probabilities: Enabling Open Relation Extraction with Cooperating Large Language Models
* KnowCoder: Coding Structured Knowledge into LLMs for Universal Information Extraction
* Balanced Data Sampling for Language Model Training with Clustering
* Label-Efficient Model Selection for Text Generation
* Multi-Ta…
🔥3❤1
10 Sept 2024, 19:50 UTC811 views6 reactionsread 8 August 2026 Недавно посетил конференцию ACL 2024 в Бангкоке. В этой серии постов я поделюсь своей подборкой статей с конференции. Основной упор постараюсь сделать на практически применимые статьи и идеи.
Подборку открывают статьи про LLM:
* Prompt Engineering a Prompt Engineer
* Controlled Text Generation for Black-box Language Models via Score-based Progressive Editor
* Referral Augmentation for Zero-Shot Information Retrieval…
🔥4👍2
11 Feb 2024, 18:33 UTC≈1,700 views11 reactionsread 8 August 2026 Выпустил небольшую библиотеку, где на чистом питоне обучается нейронная сеть. Буквально в 100 строчек кода реализован алгоритм градиентного спуска и обратного распространения ошибки, что позволяет глубже изучить механизм обучения нейронных сетей.
Есть так же код для анимации обучения на движке manim.
🔥8👍3
26 Jan 2024, 23:07 UTC≈1,580 views7 reactionsread 8 August 2026 В новом видео рассмотрим основные принципы обучения нейронных сетей.
Обсудим функцию потерь, градиентный спуск и алгоритм обратного распространения ошибки.
Приятного просмотра!
🔥7
30 Nov 2023, 15:18 UTC≈1,650 views14 reactionsread 8 August 2026 Photo
Извлечение обучающих данных из языковых моделей
Google DeepMind провели интересное исследование о том как извлекать тренировочные данные из LLM.
Суть - это использование галлюцинаций, которые "выдают" данные модели. Таким образом исследователям удалось извлечь различные персональные данные, по которым можно определить человека, различные идентификаторы и ключи, откровенный контент и так далее.
Принцип атаки очень …
👍8😁3😱2🔥1
7 Nov 2023, 08:04 UTC≈1,110 views8 reactionsread 8 August 2026 Отвечая на комментарий к предыдущему посту: «Это к вопросу о том, зачем продавать нефть коли бензин продавать выгоднее)))»
Не совсем. Во-первых, нефть и бензин - это сырьё и продукт низкого передела, а их модели - это высокотехнологичный продукт. Во-вторых, это уже больше политика. Например, бензин экспортировать мы вам запретим, а нефть, из которой мы потом сами сделаем что нам нужно, мы разрешим.
Речь о том, что …
👍7❤1
6 Nov 2023, 22:54 UTC≈1,070 views16 reactionsread 8 August 2026 OpenAI - Продаём мечту (но без гарантий)
Недавно прогремела очередная новость от OpenAI. Они выпустят новую модель, которая будет принимать контекст в 128к токенов (±360 страниц текста). Не обошли стороной и вопрос мультимодальности (когда модель может принимать как текст, так и изображения, так и звук и так далее), тут тоже есть обновления, новые модели, расширены возможности API.
Можешь подумать: "Что ещё можно по…
🤡6🔥5👎3👍2
24 Sept 2023, 16:45 UTC≈1,710 views4 reactionsread 8 August 2026 Спустя некоторый перерыв, всё же продолжаю выкладывать заметки об ACL 2023. В данной статье привожу заметки о 2-ом дне.
Среди них вы найдёте:
* DarkBERT - новая модель, которая натренирована на страницах из даркнета.
* LENS - обучаемая метрика для оценки упрощения текста
* Несколько новых и интересных датасетов, а так же методов более эффективного использования больших языковых моделей (LLMs)
#ACL2023 #заметки
🔥4
22 Sept 2023, 06:52 UTC≈1,160 views7 reactionsread 8 August 2026 В этом видео начинаю серию роликов о принципах работы нейронных сетей. В видео будем симулировать функцию XOR.
Так же рассмотрим некоторые функции активации и для чего необходима нелинейность в нейронных сетях.
🔥5❤1👍1
Showing the 12 most recent of 16 posts we hold for @deep_learning_nlp_ru. View and reaction counts are the latest single reading for each post, not a live figure, and a recent post is still accumulating both. A view count marked ≈ was rounded by Telegram before we ever saw it — t.me prints views in full below 1,000 and to three significant figures above, so ≈1,200,000 means somewhere between 1,150,000 and 1,249,999. Unmarked counts are exact. Text is reproduced from the public post preview and truncated for length.