You must log in or # to comment.
Bei uns in der Firma wollten sie bis vor kurzem auch so einen Chatbot auf der Website haben. Mit den letzten Veröffentlichungen wurde das Projekt pausiert.
IMO sind Modelle wie GPT-3 viel zu umfangreich, um da einen “simplen” Bot darauf aufzubauen. Und dann wundert man sich, wenn jemand dem Chatbot ein Protestgedicht entlockt.
Eva Wolfangel hat auf dem 37C3 einen Vortrag dazu gehalten. Sie konnte einen mental health chatbot mit Selbstmorddrohungen dazu bringen, Interna auszuplaudern.
Danke! Muss ich später mal reinsehen, das klingt interessant.
Ich war zu faul für den Link. Danke.
Sie hassten ihn, weil er die Wahrheit sagte.
Twitter link with the original screenshots.
