Фермер із китайського міста Чучжоу втратив увесь урожай кунжуту через рекомендації штучного інтелекту (ШІ) щодо боротьби з бур’янами та шкідниками.
Чоловік почав користуватися ШІ близько року тому. Спочатку він ставився до технології з недовірою, однак згодом змінив думку, оскільки отримані поради виявлялися корисними.
Цього разу фермер звернувся до ШІ із запитанням про боротьбу з бур’янами та шкідниками на посівах кунжуту. Система запропонувала змішати низку препаратів (деякі з них були вигадані) для боротьби зі шкідниками.
Фермер без додаткової перевірки дотримався рекомендацій ШІ та обробив близько 10 га поля. Вже наступного дня бур’яни та сходи кунжуту почали масово гинути.
Після цього аграрій знову звернувся до ШІ, запитавши, чому рослини загинули. Система припустила, що причиною міг бути один із рекомендованих гербіцидів.
Сільськогосподарські експерти пояснили, що ця речовина переважно застосовується для боротьби з широколистими бур’янами на посівах сої. Кунжут також належить до широколистих культур, тому гербіцид може пошкоджувати й саму рослину. Крім того, препарат призначений для точкового оброблення уражених ділянок, а не для використання на всьому полі.
Фермер заявив, що ШІ не попередив його про ризики використання запропонованих препаратів. Водночас на сторінці чату містилося стандартне попередження: «Згенерована ШІ інформація може бути неправильною, будь ласка, перевірте її».