Мы продолжаем наши разговоры об искусственном интеллекте с Ильёй Новиковым, лучшим IT-библиотекарем страны. Тема четвёртой серии — ошибки нейросетей и то, почему они вообще возникают. Всё упирается в одно: на каких данных нейросеть учили — такой ответ и получишь.
Самый свежий и громкий пример — нейросеть Грок, детище Илона Маска. Недавно она забавляла весь интернет своими откровенно предвзятыми ответами.
Конечно, не все знали об этой особенности и могли принять такой ответ за чистую монету.Но бывали случаи и куда серьёзнее — откровенно оскорбительные.
Важно понимать и ещё одну вещь: в разных странах разный менталитет, и это напрямую влияет на алгоритмы нейросетей, которые там разрабатывают.
Как же не попасть впросак и не получить некачественный ответ? Выход один: понимать, кого и о чём ты спрашиваешь. И при необходимости — добавлять к запросу дополнительные данные, которые помогут нейросети точнее понять задачу.
Итог прост: прежде чем довериться нейросети — задумайтесь, на каких данных её учили. А то вдруг для вашего помощника лучший танцор диско — тоже Илон Маск?