KI-Chatbot gibt falschen Rat: Landwirt verliert Ernte durch Chemikalien
Künstliche Intelligenz kann bei der Klärung von Fragen hilfreich sein, aber blindem Vertrauen in ihre Antworten, wenn wichtige Entscheidungen getroffen werden, kann teuer zu stehen kommen. Ein 67-jähriger Landwirt musste dies auf die schmerzhafteste Weise erfahren, nachdem er den Empfehlungen eines Chatbots zur Unkrautbekämpfung auf seinem Feld gefolgt war.
Landwirt verlässt sich auf KI-Beratung
Der Landwirt nutzte seit einiger Zeit eine KI-Anwendung, um sich bei der Pflege seiner Felder beraten zu lassen. Obwohl er anfangs skeptisch war, erwiesen sich einige frühere Empfehlungen als nützlich, was sein Vertrauen in das Werkzeug stärkte.
Falsche Empfehlung führt zu Ernteausfall
Das Problem entstand, als er den Chatbot nach der Bekämpfung von Unkraut und Schädlingen befragte. Die KI empfahl die Verwendung verschiedener Chemikalien, darunter Flufenacet und andere Herbizide und Verbindungen zur Unkrautbekämpfung. Der Landwirt befolgte die Anweisungen und trug die Mischung auf einer Fläche von etwa 10 Hektar auf, was rund 14 Fußballfeldern entspricht.
KI gesteht Fehler ein
Die Schwere des Problems wurde erst am nächsten Morgen deutlich. Als der Landwirt auf sein Feld zurückkehrte, stellte er fest, dass die Sesam Pflanzen abgestorben waren. Verwirrt fragte er erneut denselben Chatbot, was passiert war. Daraufhin wies die KI selbst eines der verwendeten Produkte als Ursache für die Katastrophe hin. Die betreffende Verbindung, Flufenacet, wird hauptsächlich als Herbizid zur Bekämpfung bestimmter breitblättriger Unkräuter in Kulturen wie Soja eingesetzt. Das Problem ist, dass auch Sesam eine breitblättrige Pflanze ist, so dass das Produkt diese schädigen konnte. Darüber hinaus räumte der Chatbot ein, dass das Produkt punktuell auf betroffene Bereiche aufgetragen werden sollte und nicht über die gesamte Anbaufläche verteilt werden darf. Genau das hatte der Landwirt jedoch gemäß den erhaltenen Anweisungen getan.
Die Geschichte ist bemerkenswert, weil der Landwirt anfangs nicht auf künstliche Intelligenz vertraute. Mehrere richtige Antworten führten dazu, dass er seine Meinung änderte und begann, seinen Empfehlungen zu folgen. Gerade deshalb warnen die eigenen KI-Dienste davor, dass ihre Antworten Fehler enthalten können, und empfehlen, Informationen zu überprüfen, wenn es um wichtige Angelegenheiten geht.