Unnamed: 0 int64 0 829 | id int64 2.04k 4.06k | date stringdate 2023-11-02 18:40:52 2025-09-24 22:40:11 | text stringlengths 3 5.58k | word_count int64 1 659 |
|---|---|---|---|---|
0 | 4,058 | 2025-09-24T22:40:11+00:00 | Что-то интересное:
Happy to release Meta Code World Model (CWM), a 32-billion-parameter dense LLM that enables novel research on improving code generation through agentic reasoning and planning with world models.
https://ai.meta.com/research/publications/cwm
When humans plan, we imagine the possible outcomes of diffe... | 245 |
1 | 4,057 | 2025-09-23T11:44:54+00:00 | Что почитать в дороге | 4 |
2 | 4,055 | 2025-09-22T19:18:08+00:00 | Когда же уже R2 наконец?!
DeepSeek-V3.1 → DeepSeek-V3.1-Terminus
✨ What’s improved?
🌐 Language consistency: fewer CN/EN mix-ups & no more random chars.
🤖 Agent upgrades: stronger Code Agent & Search Agent performance.
https://x.com/deepseek_ai/status/1970117808035074215?t=zuXvRjUBudH5diKElMnijg&s=19 | 33 |
3 | 4,053 | 2025-09-22T10:49:48+00:00 | Мы уже писали про варианты JEPA, например, JEPA для time series (https://t.me/gonzo_ML_podcasts/513) или для видео, типа V-JEPA (https://t.me/gonzo_ML/3501) и V-JEPA 2 (https://t.me/gonzo_ML/3953). Теперь JEPA доехала до LLM и есть LLM-JEPA!
https://t.me/gonzo_ML_podcasts/880
Результат интересный. Главный челлендж, к... | 42 |
4 | 4,040 | 2025-09-21T22:40:06+00:00 | * **Самодистилляция:** Ещё более удивительно, что авторы показывают, как самодистилляция (тоже упоминалась в канале не раз, один из интересных кейсов тут https://t.me/gonzo_ML/202) -- когда модель на 300M параметров выступает учителем для нового 300М-студента той же архитектуры -- может привести к лучшей модели. Обуч... | 232 |
5 | 4,039 | 2025-09-21T22:40:06+00:00 | Хотя регуляризация решает проблему масштабирования одной модели, авторы задаются вопросом, есть ли лучший способ потратить бесконечные вычислительные ресурсы. Мы все знаем про пользу ансамблирования. Кажется, на Каггле это традиционно был универсальный рецепт -- в любой непонятной ситуации делай ансамблирование. Обучая... | 432 |
6 | 4,038 | 2025-09-21T22:40:06+00:00 | **Pre-training under infinite compute**
__Konwoo Kim, Suhas Kotha, Percy Liang, Tatsunori Hashimoto__
Статья: https://arxiv.org/abs/2509.14786
Код: https://github.com/marin-community/marin/tree/suhas/data-efficiency
Прикольная работа про законы скейлинга, разные экспоненты и пользу дистилляции и ансамблирования. Авт... | 380 |
7 | 4,037 | 2025-09-19T22:45:08+00:00 | А вот и Навье-Стокс от Дипмайнда подоспел
https://deepmind.google/discover/blog/discovering-new-solutions-to-century-old-problems-in-fluid-dynamics/ | 8 |
8 | 4,035 | 2025-09-18T17:57:02+00:00 | Интересный подход PostNAS с поиском оптимальной архитектуры LLM в работе про Jet-Nemotron:
https://t.me/gonzo_ML_podcasts/863
Не надо пробовать 100500 вариантов во время обучения (как работает классический NAS), надо обучить большую сеть, "включающую всё", а потом коцать её, занимаясь оптимизацией. Напоминает идейно ... | 77 |
9 | 4,034 | 2025-09-18T07:54:08+00:00 | В тему агентских экономик (https://t.me/gonzo_ML/4032), Гугл анонсировал агентский протокол для платежей Agent Payments Protocol (AP2), расширение A2A. Покупки могут совершаться как с человеком, так и без.
https://cloud.google.com/blog/products/ai-machine-learning/announcing-agents-to-payments-ap2-protocol | 27 |
10 | 4,033 | 2025-09-18T01:07:07+00:00 | Прикольно. Статья про Deepseek-R1 (https://t.me/gonzo_ML/3319) вышла в натуре. Не всё Дипмайнду только там публиковаться :)
https://www.nature.com/articles/s41586-025-09422-z | 16 |
11 | 4,032 | 2025-09-15T21:02:29+00:00 | Вот вам ещё свежая работа из Дипмайнда: **Virtual Agent Economies**
https://t.me/gonzo_ML_podcasts/860
Авторы утверждают, что наш путь по умолчанию — **спонтанная и проницаемая** экономика — функционально эквивалентен простому участию ИИ-агентов в существующей человеческой экономике, но на машинных скоростях и в маши... | 70 |
12 | 4,031 | 2025-09-15T19:30:45+00:00 | Потрясающий набор реакций на Юдковского, впрочем ожидаемо. Я лично прочитаю, мне интересно, какие у него аргументы. В плане аргументов мне также нравятся аргументы Рассела (https://t.me/gonzo_ML/1516), но что-то мне подсказывает, многие из скептиков про них даже не думали. | 37 |
13 | 4,030 | 2025-09-15T18:51:43+00:00 | 16 сентября у Элиезера Юдковского выходит новая книга!
О книге [уже положительно отозвались](https://ifanyonebuildsit.com/full-praise) крупные учёные (от самого высокоцитируемого живущего учёного и лауреата премии Тьюринга Йошуа Бенжио до Нобелевского лауреата по экономике Бена Бернанке), профессора компьютерных наук ... | 409 |
14 | 4,027 | 2025-09-15T10:03:45+00:00 | Огромная работа с обзором всего современного RL для ризонинга:
https://t.me/gonzo_ML_podcasts/849 | 10 |
15 | 4,026 | 2025-09-14T23:21:40+00:00 | Стартап Миры Мурати разродился на этой неделе первым постом в блоге. Тема: воспроизводимость ответов LLM.
https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/
Где там остаётся недетерминизм, когда все сиды уже зафиксированы. Разбирают неассоциативность сложения чисел с плавающей точкой и прочее... | 45 |
16 | 4,025 | 2025-09-14T11:23:13+00:00 | Ещё одна любопытная недавно нашумевшая работа про SpikingBrain LLM, где взяли Qwen2.5 и делают на его базе эффективную модель. В этот раз более спайко-подобную, хорошо работающую на очень длинном контексте и потенциально намного более энергоэффективную. Это ещё не полноценная спайковая сеть на нейроморфном процессоре, ... | 86 |
17 | 4,023 | 2025-09-14T10:18:08+00:00 | Важный апдейт про развенчание заоблачного перформанса K2-Think от независимой команды.
Оценка была некорректная, включала контаминацию, занижала скоры других моделей и использовала их неоптимальным образом. Микро-усреднение также даёт избыточно высокий вес (66%) бенчмарку, на котором модель лучше всего.
Плюс претенз... | 95 |
18 | 4,021 | 2025-09-13T09:59:14+00:00 | Опенсорсная модель с ризонингом K2-Think (не путать с Kimi K2) от LLM360 имеет размер всего 32B (построена на базе Qwen2.5), но бьёт многие более тяжёлые открытые модели. Спасибо фулл-стэк подходу, включающему обучение (SFT+RLVR), тест-тайм скейлинг (планирование и best-of-3) и инференс (спекулятивное декодирование и р... | 54 |
19 | 4,019 | 2025-09-07T11:30:12+00:00 | Annual base compensation | 3 |
20 | 4,017 | 2025-09-07T11:29:34+00:00 | Augmentation | 1 |
21 | 4,016 | 2025-09-07T11:29:26+00:00 | Automation | 1 |
22 | 4,011 | 2025-09-07T11:27:56+00:00 | **🕵️ Факт 4: Общефирменные шоки не влияют на это снижение.**
Регрессионный анализ на основе распределения Пуассона подтверждает, что эти тенденции не являются артефактами других экономических сил. После контроля над общефирменными шоками авторы обнаруживают статистически значимое снижение относительной занятости на 1... | 445 |
23 | 4,010 | 2025-09-07T11:27:55+00:00 | **Canaries in the Coal Mine? Six Facts about the Recent Employment Effects of Artificial Intelligence**
__Erik Brynjolfsson, Bharat Chandar, Ruyu Chen__
Статья: https://digitaleconomy.stanford.edu/publications/canaries-in-the-coal-mine/
Англ ревью: https://arxiviq.substack.com/p/canaries-in-the-coal-mine-six-facts
Инт... | 520 |
24 | 4,009 | 2025-09-06T14:56:36+00:00 | Ещё одна интересная работа про репрезентации, хорошо дополняет предыдущую (и вышла до неё). Тоже долго лежала в очереди на разбор, но уже проще через автомат прогнать, чем дальше держать.
https://t.me/gonzo_ML_podcasts/812
Работа хорошая, показывает, что тренд на увеличение размера модели не решает проблему выучиван... | 75 |
25 | 4,008 | 2025-09-05T18:29:26+00:00 | Статья, которую давно хотелось разобрать, но руки не дошли. Зато агент дошёл.
https://t.me/gonzo_ML_podcasts/798 | 13 |
26 | 4,001 | 2025-09-04T17:44:16+00:00 | Интересный репорт вышел про точность предсказания экзистенциальных рисков. Сравнивались суперфоркастеры, доменные эксперты, не-доменные эксперты и X-риск генералисты. Суперфоркастеры и доменные эксперты сильно превзошли образованную публику, и в целом равны между собой. Также продемонстрирована wisdom of crowds, когда ... | 101 |
27 | 4,000 | 2025-09-04T08:13:03+00:00 | Хорошая статья-интервью с Демисом Хассабисом была в Гардиане в августе. С каким-то правильным вайбом.
https://www.theguardian.com/technology/2025/aug/04/demis-hassabis-ai-future-10-times-bigger-than-industrial-revolution-and-10-times-faster | 15 |
28 | 3,999 | 2025-09-03T11:27:57+00:00 | Интересная свежая работа про методичное сравнение разных оптимизаторов.
https://t.me/gonzo_ML_podcasts/786
Новые матричные оптимизаторы in general хороши, но и AdamW был неплох — во многих случаях был выбран как бейзлайн с плохими гиперпараметрами. С хорошими он не сильно отстаёт. | 37 |
29 | 3,997 | 2025-09-02T00:07:32+00:00 | ☝ всех с 70-летием ИИ!
https://raysolomonoff.com/dartmouth/boxa/dart564props.pdf | 6 |
30 | 3,993 | 2025-08-28T08:04:26+00:00 | Интересный [пост](https://www.linkedin.com/posts/anima-anandkumar_it-is-interesting-that-the-new-deepseek-ai-activity-7366440097442910210-4Sw3) от Анимы Анандкумар:
__It is interesting that the new DeepSeek Al v3.1 is trained using the UE8M0 FP8 scale data format, which is nothing but the logarithmic number system (LN... | 202 |
31 | 3,992 | 2025-08-27T21:55:56+00:00 | Что-то интересное про world models, надо внимательно разбираться:
https://t.me/gonzo_ML_podcasts/772 | 9 |
32 | 3,991 | 2025-08-24T23:04:58+00:00 | Simons Foundation Launches Collaboration on the Physics of Learning and Neural Computation
https://www.simonsfoundation.org/2025/08/18/simons-foundation-launches-collaboration-on-the-physics-of-learning-and-neural-computation/ | 13 |
33 | 3,989 | 2025-08-24T16:14:40+00:00 | Вот вам ещё воскресное, про книги.
Прочитал за лето пару книжек про нейтрино и людей вокруг него.
Книга Фрэнка Клоуза более-менее классическая научпоп книга, построенная вокруг истории нескольких людей, в первую очередь Рэя Дэвиса, но также и Ферми, Понтекорво, и не очень многих других. В прошлом году также читал дру... | 576 |
34 | 3,987 | 2025-08-24T14:25:18+00:00 | Это выглядит просто бомбически!
Можно ли сделать такой test-time scaling, чтобы вычислений стало меньше (чем у лучших имеющихся подходов), а точность при этом выросла? Оказывается можно. Без обучения, просто хорошими и простыми новыми метриками для взвешивания разных трейсов и отбора наиболее перспективных.
Имеем 99... | 51 |
35 | 3,986 | 2025-08-23T21:53:59+00:00 | 🔬 **Метод**
**Форматы FP4**
Первым делом исследуют конфигурации форматов FP4. Напомню, что MXFP4 квантизует веса группами по 32 и квантизует скейлы в E8M0, а NVFP4 группами по 16 и скейлы в E4M3. Авторы фиксируют размер группы 16 и перебирают варианты квантизации скейлов от E1M6 до E8M0. Обучают Llama-like LLM на 35... | 363 |
36 | 3,985 | 2025-08-23T21:53:59+00:00 | **FP4 All the Way: Fully Quantized Training of LLMs**
[[Статья](https://arxiv.org/abs/2505.19115)][[Анонимный не анонимный репозитрий](https://github.com/Anonymous1252022/fp4-all-the-way)]
📘 Введение
Висело оно у меня давно в бэклоге, но в кулуарах напомнили.
С увеличением затрат на обучение больших языковых моде... | 134 |
37 | 3,984 | 2025-08-23T21:53:59+00:00 | More [FP4](https://t.me/gonzo_ML/3332) training is coming! | 5 |
38 | 3,983 | 2025-08-23T18:57:56+00:00 | Недавно упоминали [термодинамические вычисления](https://t.me/gonzo_ML/3950), и тут образовалась подборка авторазборов статей по теме:
* [**Thermodynamic Natural Gradient Descent**](https://t.me/gonzo_ML_podcasts/727), также может быть интересно [**Covariant Gradient Descent**](https://t.me/gonzo_ML_podcasts/718), кот... | 61 |
39 | 3,979 | 2025-08-22T21:10:23+00:00 | Детали апдейта DeepSeek-V3.1 подъехали
https://api-docs.deepseek.com/news/news250821 | 5 |
40 | 3,977 | 2025-08-22T16:39:03+00:00 | Михаил Бронштейн и ко написали практически учебник про геометрическое глубокое обучение. Выглядит очень достойно. Вдруг вы хотели почитать что-то по матчасти на выходных или в остаток лета.
**Mathematical Foundations of Geometric Deep Learning**
Authors: __Haitz Sáez de Ocáriz Borde and Michael Bronstein__
Paper: http... | 51 |
41 | 3,976 | 2025-08-22T09:12:12+00:00 | Вы наверное уже видели.
Claim: gpt-5-pro can prove new interesting mathematics.
Proof: I took a convex optimization paper with a clean open problem in it and asked gpt-5-pro to work on it. It proved a better bound than what is in the paper, and I checked the proof it's correct.
Details below.
https://x.com/Sebastie... | 53 |
42 | 3,955 | 2025-08-20T12:44:57+00:00 | Модель протестировали на понимание (в смысле understanding) через классификацию на основе проб, то есть обучая классификаторы поверх эмбеддингов разных энкодеров и сравнивая результаты. Обучались четырёхслойные сети поверх замороженных энкодеров. Были задачи про appearance understanding, когда можно классифицировать по... | 418 |
43 | 3,954 | 2025-08-20T12:44:57+00:00 | Цель этого этапа -- научить энкодер общему зрительному пониманию, поэтому качество оценивают на задачах про движение и классификацию. Для этого замораживают энкодер и поверх него обучают 4-слойную сетку для классификации. Показано, что каждый из ингредиентов добавляет качества, оно последовательно вырастает с 84.2% до ... | 491 |
44 | 3,953 | 2025-08-20T12:44:57+00:00 | **V-JEPA 2: Self-Supervised Video Models Enable Understanding, Prediction and Planning**
__Mahmoud Assran, Adrien Bardes, David Fan, Quentin Garrido, Russell Howes, Mojtaba Komeili, Matthew Muckley, Ammar Rizvi, Claire Roberts, Koustuv Sinha, Artem Zholus, Sergio Arnaud, Abha Gejji, Ada Martin, Francois Robert Hogan, D... | 510 |
45 | 3,951 | 2025-08-19T17:30:32+00:00 | DeepSeek-R2 пока всё никак не подвезут, но кажется назревает V-3.1
https://huggingface.co/deepseek-ai/DeepSeek-V3.1-Base/tree/main | 11 |
46 | 3,950 | 2025-08-17T17:39:20+00:00 | В свежем IEEE Spectrum [статья про термодинамические вычисления и компанию Normal Computing](https://spectrum.ieee.org/thermodynamic-computing-normal-computing#amp_ct=1755452100238&_tf=From%20%251%24s&aoh=17554520900710&referrer=https%3A%2F%2Fwww.google.com&share=https%3A%2F%2Fspectrum.ieee.org%2Fthermodynamic-co... | 130 |
47 | 3,949 | 2025-08-17T13:28:45+00:00 | https://t.me/gonzo_ML_podcasts/702 | 1 |
48 | 3,948 | 2025-08-17T13:28:30+00:00 | Вышел огромный обзор "Speed Always Wins: A Survey on Efficient Architectures for Large Language Models": https://t.me/gonzo_ML_podcasts/699
В каком-то смысле это продолжение старой доброй “Efficient Transformers: A Survey” 2020 года (https://arxiv.org/abs/2009.06732). | 30 |
49 | 3,946 | 2025-08-16T13:47:41+00:00 | Давайте я вам ещё чего-нибудь прекрасного субботнего дам.
Вот например Gerard 't Hooft, лауреат [Нобелевской премии](https://www.nobelprize.org/prizes/physics/1999/illustrated-information/) и [Breakthrough Prize](https://breakthroughprize.org/Laureates/1/L3991).
Давно топит за то, что [квантовая механика идёт не туда... | 155 |
50 | 3,945 | 2025-08-13T09:58:24+00:00 | Кстати, прям щас начался кейноут Йоши Баха
https://www.youtube.com/live/fdftA37yZJw?si=KDamycsVMbu7qjax | 8 |
51 | 3,944 | 2025-08-12T23:13:40+00:00 | Прикольный доклад сегодня на AGI-25. В контексте свежих речей Самы про то, что [AGI уже плохой концепт](https://www.cnbc.com/2025/08/11/sam-altman-says-agi-is-a-pointless-term-experts-agree.html).
__Some people who have been promising the Moon are now saying that the Moon is maybe not the best concept ever.__
https:/... | 41 |
52 | 3,934 | 2025-08-11T23:27:29+00:00 | Прикольная работа в общем. Просится распространение на трансформер и механизм внимания. В работе только к блокам projection применяли. | 18 |
53 | 3,933 | 2025-08-11T23:27:29+00:00 | * **Tversky Projection Layer**, аналог полносвязного слоя. Нелинейная проекция вектора a∈R^d, вычисляющая похожесть входа a на каждый из p прототипов, каждый их которых R^d, так что на выходе получается вектор R^p. По сути он проецирует входной вектор на набор выученных «прототипных» векторов Π. Однако вместо простого ... | 558 |
54 | 3,932 | 2025-08-11T23:27:29+00:00 | **Tversky Neural Networks: Psychologically Plausible Deep Learning with Differentiable Tversky Similarity**
__Moussa Koulako Bala Doumbouya, Dan Jurafsky, Christopher D. Manning__
Статья: https://arxiv.org/abs/2506.11035
Раз в год обязательно появляется какая-то интересная архитектура, где меняют какой-то фундаментал... | 524 |
55 | 3,931 | 2025-08-11T10:04:29+00:00 | Первый кейноут -- Тани! | 4 |
56 | 3,930 | 2025-08-10T22:37:05+00:00 | Ну а если серьёзно, то недостающие слайды вот ^ | 9 |
57 | 3,911 | 2025-08-10T22:13:40+00:00 | Прикольное от Йоши Баха -- how to test that a company really uses transformer :) | 15 |
58 | 3,910 | 2025-08-10T12:24:23+00:00 | Извинити #2 | 2 |
59 | 3,909 | 2025-08-09T23:55:31+00:00 | Кто хорошо в общей теории относительности разбирается, насколько важная работа?
https://t.me/gonzo_ML_podcasts/680 | 11 |
60 | 3,908 | 2025-08-09T21:15:11+00:00 | Между прочим, завтра стартует конфа AGI-2025, виртуальная регистрация бесплатна:
https://agi-conf.org/2025/
Вы только посмотрите, какие прекрасные темы попадаются (и люди!):
https://agi-conf.org/2025/schedule/
Здесь вам не какие-то 100% ллмщики, здесь тру чуваки, которые термин AGI и придумали! Ну ладно, может не п... | 60 |
61 | 3,907 | 2025-08-07T22:11:20+00:00 | Извинити | 1 |
62 | 3,905 | 2025-08-07T17:13:13+00:00 | Not bad! | 2 |
63 | 3,903 | 2025-08-07T17:11:41+00:00 | Обещают меньше глюков | 3 |
64 | 3,896 | 2025-08-07T17:07:42+00:00 | https://openai.com/index/introducing-gpt-5/ | 1 |
65 | 3,895 | 2025-08-07T16:53:00+00:00 | Ну, ждём великих прорывов :)
https://www.youtube.com/live/0Uu_VJeVVfo?si=CsAMoOPBaOKGQULb | 6 |
66 | 3,889 | 2025-08-05T20:12:22+00:00 | New kids on the block. OpenAI таки разродилась открытыми моделями, 117B и 21B, обе MoE. Прикольно, что с ризонингом.
https://openai.com/open-models/
https://openai.com/index/introducing-gpt-oss/ | 21 |
67 | 3,888 | 2025-08-04T14:53:04+00:00 | Вышла AlphaEarth Foundations (AEF), геопространственная фундаментальная модель от Дипмайнда. Выглядит просто бомбически по результатам. Ожидаю волны новых проектов и стартапов (если лицензия позволяет) вокруг гео-аналитики!
https://t.me/gonzo_ML_podcasts/666 | 26 |
68 | 3,887 | 2025-08-03T22:37:49+00:00 | Бахнул авторазбор свежей статьи Антропика про Persona vectors. В целом мне такие саммари проще и быстрее читать, чем даже официальные посты в блогах.
https://t.me/gonzo_ML_podcasts/653 | 24 |
69 | 3,886 | 2025-08-02T20:00:18+00:00 | Прекрасное субботнее нашёл!
Что мы всё про AI, да AGI. Когда есть ETI (Extra-terrestrial Intelligence).
[Avi Loeb](https://astronomy.fas.harvard.edu/people/avi-loeb) с соавторами написал свежую статью про 3I/ATLAS, третий известный объект извне солнечной системы (помните Oumuamua, первый?). Он прямо сейчас летит у на... | 259 |
70 | 3,885 | 2025-08-02T08:20:25+00:00 | Если вам нечего посмотреть на выходных, то есть [прекрасный фильм Memento](https://www.imdb.com/title/tt0209144/), который предсказал мир LLM задолго до него.
Что забавно, недавно, в июне, таки вышла статья, напрямую эксплуатирующая эту идею и название:
Memento: Note-Taking for Your Future Self
https://arxiv.org/abs/... | 39 |
71 | 3,884 | 2025-08-01T14:01:35+00:00 | https://t.me/gonzo_ML_podcasts/636 | 1 |
72 | 3,883 | 2025-08-01T14:01:24+00:00 | Интересная работа про Energy-based трансформеры: https://t.me/gonzo_ML_podcasts/633
Модель выучивает энергетическую функцию, и далее генеря что-то, может оценивать это же по энергетической функции и оптимизировать результат градиентным спуском. Результат выглядит неплохо. | 29 |
73 | 3,882 | 2025-07-31T17:29:59+00:00 | А ещё сегодня Цукерберг опубликовал своё видение про [персональный сверхинтеллект](https://www.meta.com/superintelligence/).
Любопытный комментарий [тут](https://t.me/fastsalttimes/4253). | 13 |
74 | 3,881 | 2025-07-31T12:16:31+00:00 | Любопытная тёрка между Лекуном и Маском про инженеров и исследователей
https://www.linkedin.com/posts/yann-lecun_there-is-a-difference-between-research-and-activity-7356606929554567169-_iT2
There is a difference between research and engineering in (1) modus operandi, (2) methodology, (3) openness, (4) evaluation cri... | 336 |
75 | 3,880 | 2025-07-31T10:59:16+00:00 | https://t.me/gonzo_ML_podcasts/628 | 1 |
76 | 3,879 | 2025-07-31T10:57:15+00:00 | Прикольная работа про эволюцию промптов, которая бьёт RL — GEPA (не путать с лекуновской JEPA!)
https://t.me/gonzo_ML_podcasts/619
Рефлексия на естественном языке вместо скалярных наград, эволюция только инструкций без few-shot примеров — и на редкость хороший результат. Очередной пример, когда всё больше "интеллекта... | 55 |
77 | 3,878 | 2025-07-30T07:55:59+00:00 | Я, кстати, хочу подсветить, что в [работе про subliminal learning](https://t.me/gonzo_ML/3876) в большинстве экспериментов была не logit-дистилляция, для которой всё было бы более-менее очевидно (был один эксперимент на MNIST с logit-дистилляцией), а дистилляция на уровне токенов, по сути обычный SFT, когда модель-учит... | 68 |
78 | 3,877 | 2025-07-29T16:41:29+00:00 | https://t.me/gonzo_ML_podcasts/618 | 1 |
79 | 3,876 | 2025-07-29T16:41:21+00:00 | Очень прикольная работа про subliminal learning: https://t.me/gonzo_ML_podcasts/602
Из серии про природу вещей и геометрию репрезентаций. Идея в том, что при дистилляции модель-студент может выучить способности, которые напрямую ей не передаются. Например, [любовь к совам](https://www.youtube.com/watch?v=LHTGFE2fJQg) ... | 87 |
80 | 3,875 | 2025-07-28T10:48:33+00:00 | https://t.me/gonzo_ML_podcasts/594 | 1 |
81 | 3,874 | 2025-07-28T10:48:22+00:00 | И снова про AI-исследователей.
Авторы претендуют на end-to-end NAS (network architecture search), заявляют что увидели аналог хода 37 Альфаго, и обнаружили закон скейлинга — чем больше компьюта, тем линейно больше SOTA архитектур.
https://t.me/gonzo_ML_podcasts/591
Нас всех отскейлят! | 36 |
82 | 3,873 | 2025-07-27T17:03:19+00:00 | Слайд забыл :) | 3 |
83 | 3,863 | 2025-07-27T17:01:02+00:00 | Продолжаю наблюдать за темой про AI scientists :)
Бонусом ссылка на интересную вакансию про open-endedness | 15 |
84 | 3,862 | 2025-07-27T11:12:15+00:00 | Ещё из любопытных новостей, JetBrains разрабатывает английский для программирования
In a July 23 interview with InfoWorld, JetBrains CEO Kirill Skrygan elaborated on company plans for an as-yet-unnamed language that would describe a program at a higher level of abstraction. He reflected on how computer code originall... | 239 |
85 | 3,861 | 2025-07-27T10:25:21+00:00 | — Лояльность — в одну сторону: от работника к компании. А компания предлагает «возможности» — по настроению.
— Увольнения — теперь не из-за кризиса, а как стратегический маневр.
— Прибыль — это не повод сохранять рабочие места или переучивать сотрудников, а возможность «трансформироваться», сокращая штат.
Винить Над... | 101 |
86 | 3,860 | 2025-07-27T10:25:21+00:00 | Любопытный пост в https://t.me/fastsalttimes. Тоже про ~~будущее~~ настоящее работы.
Песни грядущего
Сатья Наделла на этой неделе разродился написанным ужасным корпоративным языком посланием сотрудникам Microsoft. Но за расплывчатыми лукавыми формулировками можно разглядеть суть.
Для начала уточним, что за последние... | 589 |
87 | 3,857 | 2025-07-26T12:38:32+00:00 | **🔍 Необходимое расширение повестки дня в области безопасности ИИ**
Главная сила этой статьи — в её своевременном и веском доводе в пользу расширения парадигмы безопасности ИИ. Опираясь на богатый пласт экономической теории и реальные примеры — от судебных исков против ИИ-лабораторий за использование пиратских книг д... | 277 |
88 | 3,856 | 2025-07-26T12:38:31+00:00 | В статье изложены шесть центральных утверждений (P1-P6), которые рисуют тревожную картину текущей траектории развития ИИ:
1. **Экономическая дестабилизация (P1):** Конкурентная «гонка вооружений» среди разработчиков ИИ приводит к поспешным внедрениям, накоплению «технического долга» и созданию массовой нестабильности ... | 428 |
89 | 3,855 | 2025-07-26T12:38:31+00:00 | **Position: AI Safety Should Prioritize the Future of Work**
__Sanchaita Hazra, Bodhisattwa Prasad Majumder, Tuhin Chakrabarty__
Статья: https://arxiv.org/abs/2504.13959, https://openreview.net/forum?id=CA9NxmmUG5
Англ обзор: https://arxiviq.substack.com/p/icml-2025-position-ai-safety-should
**# TL;DR**
**О чём работ... | 364 |
90 | 3,854 | 2025-07-26T12:38:31+00:00 | Вдогонку к экономике сверхинтеллекта из [предыдущего поста](https://t.me/gonzo_ML/3853) (кстати, я его чуть дополнил), статья с Outstanding Position Paper Award ICML 2025.
Между прочим, один из авторов — Бодхисаттва! | 27 |
91 | 3,853 | 2025-07-25T19:23:08+00:00 | Почитать на выходные (но вероятно paywall).
Тема очередного номера The Economist — The economics of superintelligence
1. https://www.economist.com/leaders/2025/07/24/the-economics-of-superintelligence [краткий бриф следующих двух статей]
2. https://www.economist.com/briefing/2025/07/24/ai-labs-all-or-nothing-race-le... | 38 |
92 | 3,852 | 2025-07-25T13:05:59+00:00 | И последняя из ICML 2025 Outstanding Paper Award (там ещё есть Outstanding Position Paper и Test of time).
Здесь про адаптацию Score Matching на пропущенные данные (среди прочего показывают, что заполнение нулём вообще не торт)
https://t.me/gonzo_ML_podcasts/577
В теме Score Matching я не разбираюсь, так что если ес... | 52 |
93 | 3,851 | 2025-07-25T12:09:03+00:00 | Любителям Байесовских методов и количественной оценки неопределённости, очередная Outstanding Paper Award на ICML 2025:
https://t.me/gonzo_ML_podcasts/568 | 15 |
94 | 3,850 | 2025-07-24T12:34:40+00:00 | Ещё статья с Outstanding Paper Award на ICML 2025.
CollabLLM обучается на многоходовых роллаутах диалогов на базе симуляции пользователя и в итоге улучшает пользовательский опыт:
https://t.me/gonzo_ML_podcasts/555 | 26 |
95 | 3,849 | 2025-07-23T21:47:20+00:00 | Теперь с Хассабисом поговорил
https://youtu.be/-HzgcbRXUK8 | 5 |
96 | 3,848 | 2025-07-23T13:31:38+00:00 | Продолжаем публикацию обзоров статей, взявших Outstanding Paper Award на ICML 2025.
Работа "**The Value of Prediction in Identifying the Worst-Off**" предлагает важный контр-аргумент подходу «точность превыше всего», который преобладает в прикладном машинном обучении. Она показывает, что во многих реальных сценариях с... | 118 |
97 | 3,847 | 2025-07-23T13:21:01+00:00 | https://icml.cc/Conferences/2025/PublicationEthics | 1 |
98 | 3,846 | 2025-07-22T13:19:09+00:00 | https://t.me/gonzo_ML_podcasts/550 | 1 |
99 | 3,845 | 2025-07-22T13:19:01+00:00 | Ещё одна статья с Outstanding Paper Award на ICML 2025. Критика next-token prediction, продвижение мульти-токенных методов и диффузии, а также неожиданно эффективный метод создания разнообразия на выходе модели, seed-conditioning, добавляющий рандомный бессмысленный текстовый шум на вход (seed-строка) и превосходящий т... | 42 |
End of preview. Expand in Data Studio
No dataset card yet
- Downloads last month
- 42