Tag: TextzuBildKIModelle

Ihre Arbeit, die sie im Mai nächsten Jahres auf dem IEEE Symposium on Security and Privacy vorstellen werden, beleuchtet, wie einfach es ist, generative KI-Modelle dazu zu zwingen, ihre eigenen Leitplanken und Richtlinien zu missachten, was als „Jailbreaking“ bekannt ist. Es zeigt auch, wie schwierig es ist, zu verhindern, dass diese Modelle solche Inhalte generieren, da diese in den riesigen Datenbeständen enthalten sind, auf denen sie trainiert wurden, sagt Zico Kolter, außerordentlicher Professor an der Carnegie Mellon University. Er demonstrierte