Tag: Gedankenbaum
Gedankenbaum, der zu besseren generativen KI-Ergebnissen auffordert
Viele kennen die beliebte Chain of Thoughts (CoT)-Methode zur Anregung generativer KI, um bessere und ausgefeiltere Antworten zu erhalten. Forscher von Google DeepMind und der Princeton University haben eine verbesserte Aufforderungsstrategie namens Tree of Thoughts (ToT) entwickelt, die die Aufforderung auf eine höhere Ergebnisebene bringt und so ausgefeiltere Argumentationsmethoden und bessere Ergebnisse ermöglicht.
Die Forscher erklären:
„Wir zeigen, wie gezielte Suche in Gedankenbäumen (Trees of Thoughts, ToT) zu besseren Ergebnissen und, was noch wichtiger ist, zu interessanten und vielversprechenden neuen
Untersuchungen zeigen, dass ein Gedankenbaum besser wirkt als eine Gedankenkette
Forscher haben einen Weg gefunden, die Sicherheitsbarrieren in GPT4 und GPT4-Turbo zu überwinden und die Fähigkeit freizuschalten, schädliche und toxische Inhalte zu generieren, indem sie im Wesentlichen ein großes Sprachmodell mit einem anderen großen Sprachmodell schlagen.
Die Forscher fanden heraus, dass die Verwendung von Tree-of-Thought (ToT)-Reasoning zur Wiederholung und Verfeinerung einer Angriffslinie für das Jailbreaking eines anderen großen Sprachmodells nützlich war.
Sie fanden heraus, dass der ToT-Ansatz gegen GPT4, GPT4-Turbo und PaLM-2 erfolgreich war und eine bemerkenswert geringe Anzahl von