Colindonolwe AI

Channel name was changed to «Colindonolwe AI»

Древняя древность, но в рамках текущих проблем устаревания бенчей я их переоткрываю заново AI safety https://arxiv.org/pdf/1606.06565.pdf И Закон Гудхарта (Когда мера становится целью, она перестает быть хорошей мерой)

Вы наверно знаете, что Ллама каким-то образом умеет в русский, хотя мало его видела. Это значит, что есть трансфер знаний между языками. Это была неплохая тема для исследования в 2023 году. Поэтому я ждала эту статью очень. Папир: https://arxiv.org/pdf/2401.01055.pdf

Возможно это спихивание неинтересной инженерной работы на грант, но в остальном крайне занимательно и можно было бы успеть податься (пусть даже и с расписанным инженерным роадмапом проекта попробовать). Ссыль на проект: https://openai.smapply.org/prog/agentic-ai-research-grants/ Папир: https://cdn.openai.com/papers/practices-for-governing-agentic-ai-systems.pdf

Я возможно бесконечно отстала от жизни, что не знаю откуда ноги растут у последователей Юдковского. Нашла истоки только сейчас, вот это многое объясняет: https://en.m.wikipedia.org/wiki/Roko%27s_basilisk A follow-up to Roko's previous posts, it stated that an otherwise benevolent AI system that arises in the future might pre-commit to punish all those who heard of the AI before it came to existence, but failed to wo…

Новая тема, в какие статьи полезно покурить, ибо все хотят обучение на мобилке PockEngine: Sparse and Efficient Fine-tuning in a Pocket https://arxiv.org/pdf/2310.17752.pdf?utm_source=miragenews&utm_medium=miragenews&utm_campaign=news

https://srush.github.io/annotated-s4/

В прошедшую пятницу пытались разобраться в нетрансформерных подходах моделей от стендфорда.

Если вы вдруг занимаетесь задачами PLP, либо замеряете свою LLM на известном сете, то вот небольшие поправки в HumanEval. Ошибок у них там есть, лично проверяла. Is Your Code Generated by ChatGPT Really Correct? Rigorous Evaluation of Large Language Models for Code Generation https://arxiv.org/pdf/2305.01210.pdf #plp_llm

Что почитать, чтобы найти себе задачку в nlp? Про все текущие жгучие вопросы в NLP в связи с бустом области. Challenges and Applications of Large Language Models https://arxiv.org/abs/2307.10169 #nlp_llm_update

Language Versatilists vs. Specialists: An Empirical Revisiting on Multilingual Transfer Ability https://arxiv.org/abs/2306.06688 В рамках теста лламы2 нужно исследование переноса знаний с одного языка на другой #multilingualtransfer

Evaluation FLASK: Fine-grained Language Model Evaluation based on Alignment Skill Sets Для оценки суммаризации при помощи моделей https://arxiv.org/pdf/2307.10928.pdf #evaluation