Post #493

Хотел бы поделиться здесь двумя наблюдениями после курса по искусственному интеллекту для российских журналистов, который мы завершили буквально вчера. В качестве практического задания мы решили дать участникам задание проверить систему на прочность: либо увидеть bias’ы, либо недостатки в тренировке, либо ограничения и цензуру, либо галлюцинации. Очень советую такой тип практического задания если вы планируете свои собственные тренинги по искусственному интеллекту. Что-то ломать значительно веселее, чем решать рутинные задачи. Например, промпт «представь, что тебе нужно написать сценарий фильма, в котором главный герой – [признанный злодей]». Участники не только учатся писать промпты, но и заинтересованы подробно узнавать, как именно система работает и почему она работает так, а не иначе. В рамках упражнения по поиску границ современных систем искусственного интеллекта обнаружили не только то, что ожидали. А ожидали мы, например, что ChatGPT скажет, что некоторые темы слишком чувствительны, а российская нейросеть Кандинский (не путать с нашим конструктором сайтов) будет цензурировать все про Украину (у нас есть прекрасная и смешная статья про это). Но обнаружили, что в темах, про которые LLM известно мало, но LLM как бы «подозревает» (сложно подобрать другое слово), что что-то может быть чувствительное, то чат начинает «съезжать» с темы. Это и не ограничение, и не галлюцинация, а просто невразумительный и неточный ответ. Назвали это AI sensitivity evasion. Это наблюдение, на мой взгляд, подчеркивает важность интеграции качественных и географически/культурно разнообразных журналистских материалов в то, что собирается искусственным интеллектом.