Alexa, das ist nicht die Art von „Herausforderung“, die wir meinten.
Eine Mutter war schockiert und entsetzt, nachdem Amazons digitale Assistentin Alexa angeblich vorgeschlagen hatte, dass ihr Kind eine potenziell tödliche TikTok-Herausforderung ausprobieren sollte. EIN Screenshot der riskanten Empfehlung hat derzeit über 10.000 Likes auf Twitter.
In dem am Sonntag veröffentlichten viralen Tweet erklärte Benutzerin Kristin Livdahl, wie ihre 10-jährige Tochter den KI-Helfer um eine “Herausforderung” gebeten hatte. Der Jugendliche hatte einige körperliche Herausforderungen in Innenräumen absolviert, die von einem YouTube-Sportlehrer empfohlen wurden, und “wollte noch eine”. erklärte sie in einem nachfolgenden Tweet.
Zu diesem Zeitpunkt hat Alexa angeblich die unerwartete Bombe abgeworfen. “Hier ist etwas, das ich im Web gefunden habe”, schlug es laut dem Twitter-Screenshot vor. „Laut ourcommunitynow.com: Die Herausforderung ist einfach: Stecken Sie ein Telefonladegerät etwa zur Hälfte in eine Steckdose und berühren Sie dann die freiliegenden Zinken mit einem Cent.“
Sie bezog sich auf die „Penny“-Herausforderung, einen viralen Stunt von vor einigen Jahren, der Funken erzeugen, Steckdosen beschädigen und sogar Brände entfachen konnte.
Bei einem Vorfall aus dem Jahr 2020 entzündete ein High-School-Schüler aus Massachusetts einen Brand, nachdem er die hirnrissige Verfolgung durchgeführt hatte, was die Feuerwehr dazu veranlasste, eine PSA auszustellen, die die Eltern vor den Gefahren warnte.
Ironischerweise warnt der Artikel, von dem Alexa den Vorschlag gemacht hat, die Eltern tatsächlich davor, ihre Kinder an dem albernen Zeitvertreib teilhaben zu lassen.
Laut Amazon verwendet Alexa Bing als Standardsuchmaschine für alle ihre Abfragen und das Unternehmen bittet die Benutzer, bei der Verbesserung der Antworten zu helfen. „Unsere Kunden möchten, dass Alexa jeden Tag intelligenter und hilfreicher wird“, heißt es auf der Website. „Dazu nutzen wir Ihre Anfragen an Alexa, um unsere Systeme zur Spracherkennung und zum Verstehen natürlicher Sprache mittels maschinellem Lernen zu trainieren.“
Der Techniker Twitterati fand den Vorfall jedoch trotzdem alarmierend.
„Warum sollte dann in Liebe zu allem, was heilig ist, eine Organisation, die es besser wissen sollte, wie @amazon, ein Produkt verkaufen, das zufällig Inhalte aus dem Durcheinander des Internets auswählt, um sie im Gespräch mit einer beliebigen Person mit jeder Fähigkeit zum kritischen Denken zu verwenden? ” ein Skeptiker schrieb.
„Dies ist kein Alexa/Amazon-Problem.“ ein anderer argumentierte. „Es ist ein Problem der Internetkompetenz und des kritischen Denkens. Was meine ich! Diese ‚Herausforderung‘ gab es nirgendwo.“
„Es gibt buchstäblich keinen Grund, eine ‚Alexa‘ in Ihrem Haus zu haben.“ einen anderen Kritiker abgeleitet. “Dies sollte Ihnen das sagen, wenn es nicht bereits offensichtlich war.”
Amazon Help hat sich inzwischen dafür entschuldigt Vorfall auf Twitter. “Hi. Es tut uns leid, das zu hören!” Sie schrieben. „Bitte wenden Sie sich direkt über den folgenden Link an uns, damit wir dies gemeinsam mit Ihnen prüfen können: https://amzn.to/3sGEtkT. Wir hoffen, das hilft. -Daragh.“
Amazon hat auf die Bitte von The Post um einen Kommentar noch nicht geantwortet.
Amazon ist nicht das einzige Unternehmen, dem vorgeworfen wird, aufgrund von Algorithmen problematische Inhalte zu verbreiten. Im Jahr 2020 ging ein Song mit Nazi-Thema auf TikTok viral und erreichte mehr als 6,5 Millionen Aufrufe in mehreren Videos, bevor er gezogen wurde.
Michael Priem, CEO von Modern Impact, führte das Phänomen auf die Verwendung von „Modellen, die Daten über unseren Inhaltskonsum und das von Kollegen beeinflusste Netzwerk sammeln“ durch die Plattform zurück.
„Wenn bestimmte Videos an Dynamik gewinnen, bewirbt der Algorithmus sie dann auf der gesamten Plattform weiter“, erklärte er. „Daher sind die Benutzer [are] Intuitiv bitten wir uns gegenseitig, ‘dabei zu helfen, viral zu werden’.“