Tag: Der Download: das Geheimnis der LLMs
Der Download: Das Geheimnis der LLMs und das Vorgehen der EU gegen Big Tech
Vor zwei Jahren versuchten Yuri Burda und Harri Edwards, Forscher bei OpenAI, herauszufinden, was nötig wäre, um ein großes Sprachmodell dazu zu bringen, grundlegende Arithmetik zu beherrschen. Zunächst lief es nicht so gut. Die Modelle lernten die Summen, die sie sahen, auswendig, konnten aber keine neuen lösen.
Aus Versehen ließen Burda und Edwards einige ihrer Experimente tagelang statt stundenlang laufen. Den Modellen wurden die Beispielsummen immer wieder gezeigt, und schließlich lernten sie, zwei Zahlen zu addieren – es hatte einfach