Post #549

...распространен подход к формулам как к заклинаниям: нужно произвести странные манипуляции с цифрами, и из них магическим образом возникнет результат. Между тем без понимания формулы слишком легко применить ее там, где она не применима, и получить бессмысленное число. Нейронные сети только увеличивают эту опасность. Во-первых, это совсем новый инструмент. Трудно ожидать, что рядовой физик, химик или биолог разбирается во всех тонкостях их обучения и проверки. Хуже того, он может даже не подозревать о существовании этих тонкостей. Во-вторых, формулу можно разобрать по буковке, а вот большая обученная нейросеть — это черный ящик. Алгоритм, по которому она принимает решения, слишком сложен для понимания человеком. Так что гораздо труднее заметить, что что-то пошло не так. Эксперты уже указывали на распространенные ошибки в применении ИИ в некоторых узких областях — например, диагностике COVID-19. Но для большинства сфер науки такая работа еще не проделана. По некоторым оценкам, некорректное использование ИИ уже привело к появлению тысяч научных статей с ошибочными результатами. https://www.forbes.ru/tekhnologii/511727-ramki-dla-nejroseti-razrusaet-li-nauku-iskusstvennyj-intellekt