Yann LeCun 澄清：从未参与 LLM 研发，认为 Llama-4 失败另有原因
Tout cela est correct. Merci. Sauf une chose : j'ai bien créé FAIR en 2013, y compris la branche pa...
LeCun 亲自下场划清和 LLM 的界限，还点出 Llama-4 翻车的真实原因，内部视角很难得。
Yann LeCun 表示自己在 2013 年创建 FAIR，包括 2015 年的巴黎分部和 2017 年的蒙特利尔分部，但 2018 年起卸任管理职务转任 Chief AI Scientist，专注自监督学习、JEPA、世界模型等方向。他明确称从未参与 LLM 的研究或产品开发，对 Llama 的贡献仅限于在内部推动项目、促成 Meta 在 2023 年初成立 GenAI 产品组，以及说服管理层以开源方式发布 Llama-2。对于 Llama-4 的表现不佳，他认为责任在于赶工发布导致团队过度保守、缺乏创新，且技术决策权从巴黎的 Llama 原始团队转移到了 Menlo Park，造成人才流失。
Tout cela est correct. Merci. Sauf une chose : j'ai bien créé FAIR en 2013, y compris la branche pa...
Tout cela est correct. Merci. Sauf une chose : j'ai bien créé FAIR en 2013, y compris la branche parisienne en 2015, et montréalaise en 2017. Mais j'en ai quitté la direction en 2018 pour devenir Chief AI Scientist: je me suis refocalisé sur la recherche (Self-Supervised Learning, JEPA, World Models, etc). @AntoineBordes et @joellepineau étaient les co-directeurs de 2018 à 2023, jusqu a ce qu'Antoine parte pour Helsing et que Joëlle prenne la direction de FAIR. Je n'ai jamais été impliqué dans les LLMs, ni pour la recherche (à FAIR), ni pour le développement (qui était dans le groupe de produit GenAI). J'applaudissais des gradins. Mes seules contributions aux LLMs ont été de défendre Galactica (en octobre 2022) contre les attaques aux vitriol de la twittersphere, de promouvoir le projet Llama en interne (développé par une douzaine de chercheurs à FAIR-Paris, dont @GuillaumeLample et Timothée Lacroix), d'aider à convaincre Mark Zuckerberg de créer un groupe de produit autour de Llama (GenAI, créé début 2023), et de convaincre la direction de distribuer Llama-2 en open source/open weight. Je n'étais pas du tout impliqué dans la direction de GenAI après sa création, préférant travailler sur la prochaine révolution: l'IA physique. Si vous cherchez un responsable pour le déception qu'a été Llama-4, c'est plutôt la pression de sortir un produit (trop) rapidement, qui a conduit à un excès de conservatisme et un manque d'innovation de la part de l'équipe de GenAI. Mon avis est que l'équipe aurait dû prendre un peu plus de temps et intégrer les dernières techniques venant de la recherche à FAIR. Mais ils n'en ont pas eu le loisir. En particulier, conserver plus de pouvoir de décision quant aux choix techniques dans les mains des créateurs originaux de Llama à Paris, au lieu de déplacer les décisions à Menlo Park, aurait peut-être permis de conserver les meilleurs talents un peu plus longtemps et de produire de meilleurs résultats. 💬 14 🔄 43 ❤️ 559 👀 112604 📊 81 ⚡
