11 Jul 2026, 11:07 UTC576 views26 reactionsread 7 August 2026 Здравствуйте, дорогие подписчики!
Сделали пособие для своих студентов (как всегда своевременно), как изобрести трансформеры (и в частности, механизм внимания), ничего не зная про NLP. Строгого вывода, понятное дело, нет и не может быть, но надеемся, что это даст некую "инженерную интуицию" про эту архитектуру.
https://buildin.ai/share/fa11d0dd-6ad1-4cf5-ac0f-0a11c7504d99?code=JFGWXK
[Buildin.AI]Attention! No NLP he…
🤡26
31 Dec 2025, 18:28 UTC842 views33 reactionsread 7 August 2026 Дорогие подписчики!
Администрация канала от всей души поздравляет вас с Новым Годом! 🎅
В новом году желаем вам карьерного роста, физического и ментального здоровья, а также всего хорошего! ⛄️
Stay hydrated and sleep well!
HNY!!! 🌲
🤡33
24 Oct 2025, 06:11 UTC≈1,380 views49 reactionsread 7 August 2026 Чувак у меня на курсе обнаружил приколдесное свойство.
Допустим, у вас есть величина y, которая y = softmax(z)
Как получить x = softmax(z / T)?
Оказывается, это просто x = softmax(y.log() / T).
Пусть:
z = [z_1, z_2]
softmax(z) = [exp(z_1) / (exp(z_1)+exp(z_2)), exp(z_2) / (exp(z_1)+exp(z_2))]
Но exp(z_1)+exp(z_2) - это нормировочная константа, С.
Тогда:
softmax(z) = [exp(z_1) / C, exp((z_2) / C]
softmax(z).log()…
🤡49
19 Jun 2025, 07:38 UTC≈1,470 views24 reactions3 Starsread 7 August 2026 Здравствуйте, дорогие подписчики!
Сегодня поговорим с вами про быстрые трекеры
https://buildin.ai/share/d74efe64-f67c-4dbb-953a-00151a96f237?code=JFGWXK
[BuildIn.AI]FEAR: Fast, Efficient, Accurate and Robust Visual Tracker
🤡24
14 Jun 2025, 03:46 UTCviews —38 reactionsread 7 August 2026 Posted without readable text
🤡38
31 Dec 2024, 15:38 UTC≈2,200 views53 reactions106 Starsread 7 August 2026 Дорогие подписчики!
Администрация канала от всей души поздравляет вас с Новым Годом! 🎅
В новом году желаем вам карьерного роста, физического и ментального здоровья, а также всего хорошего! ⛄️
Stay hydrated and sleep well!
HNY!!! 🌲
🤡53
31 Aug 2024, 07:51 UTC≈2,490 views25 reactionsread 7 August 2026 Здравствуйте, дорогие подписчики!
В последний день лета предлагаем вам почитать про современное состояние дел в области бинарных трансформеров:
https://before-relu-or-after.notion.site/522f887ad1ea4dc08ad33573269fea3b
🤡25
12 Jul 2024, 09:32 UTC≈3,730 views21 reactionsread 7 August 2026 Здравствуйте, дорогие подписчики!
Сделали для вас обзор 2 методов квантования. Особенно рекомендуем обратить внимание на QuIP, так как в будущем сделаем обзор на его наследника, QuIP#.
Да и вообще, метод incoherence processing станет стандартом при квантовании по нашему мнению, типа как руки после улицы вымыть.
https://deepschool-pro.notion.site/LLM-Part-1-e30fecd9f73a4bfa8c09020cc1726e1d?pvs=74
🤡21
8 Jul 2024, 11:21 UTC≈1,700 views22 reactionsread 7 August 2026 Здравствуйте, дорогие подписчики!
Делимся с вами прошедшим вебинаром по "Эффективным механизмам внимания".
Рекомендуем почитать дискуссию, которая возникла в комментариях к трансляции, там можно найти парочку интересных моментов к размышлению.
Слайды, видео.
🤡22
6 Jul 2024, 09:59 UTC918 views23 reactionsread 7 August 2026 Здравствуйте, дорогие подписчики!
Рекомендуем посетить данное 👇 он-лайн мероприятие!
🤡23
6 Jul 2024, 09:59 UTC≈1,350 views28 reactionsread 7 August 2026 Forwarded from @deep_school
Лекция по быстрым механизмам внимания в это воскресенье
Главное препятствие на пути к быстрым трансформерам — квадратичный attention. В базовом варианте трансформеры довольно прожорливые как по времени, так и по памяти. Поэтому инженеры ищут способы ускорить attention. О некоторых из них мы расскажем на лекции в воскресенье.
Обсудим быстрые механизмы внимания с точки зрения простых инженерных решений.
Без математик…
🤡28
31 May 2024, 18:57 UTC≈1,290 views19 reactionsread 7 August 2026 Forwarded from @voicestuffPhoto
В эту субботу я выступаю на DataFest с докладом “Как не разориться и сделать хороший синтез речи”. Выступление будет онлайн, в 12:00.
Расскажу почему вообще в синтез речи кто-то готов вкладывать крупные деньги. Где там сходится экономика и как её оптимизирую обычно я и где её сможете применить вы. Нанимать джунов или сеньоров, использовать SOTA или древнючий такотрон 2, покупать свои видюхи или арендовать - всё это …
🤡19
Showing the 12 most recent of 20 posts we hold for @before_relu_or_after. View and reaction counts are the latest single reading for each post, not a live figure, and a recent post is still accumulating both. A view count marked ≈ was rounded by Telegram before we ever saw it — t.me prints views in full below 1,000 and to three significant figures above, so ≈1,200,000 means somewhere between 1,150,000 and 1,249,999. Unmarked counts are exact. Text is reproduced from the public post preview and truncated for length.