En stödorganisation i USA för personer med ätstörningar stänger ner sin AI-tjänst efter att dess chattbot gett skadliga råd. Det rapporterar BBC.
När National Eating Disorder Association (Neda) lanserat sin AI-chattbot Tessa började därefter flera användare dela sina upplevelser i sociala medier. Det framgår att användare ska ha fått tips från Tessa om bantning och kontrollerat kaloriintag – även efter att användare upplyst om att de lider av ätstörningar.
”Alla rekommendationer Tessa gav mig var sådant som ledde till att min ätstörning utvecklades”, skriver kroppsaktivisten Sharon Maxwell.
Medarbetare på Nedas hjälplinje avskedades inför lanseringen av Tessa, och fick höra att de skulle ersättas av chattboten – två veckor efter att de organiserat sig fackligt.
REDAKTIONEN
Relaterat
Microsoft har inlett samarbete med AMD kring AI-chipp
Det finns en risk med artificiell intelligens
AI och “auktoritära regimer” pressar medievärlden