Это было в 23:40, за два дня до экзамена по машинному обучению. Мой бот с карточками только что задал мне вопрос о бумаге для отчисления, и ответ выглядел великолепно. Даже уверенно. Оно заканчивалось цитатой: «как указано в разделе 4.2». Я открываю...
Это было в 23:40, за два дня до экзамена по машинному обучению. Мой бот с карточками только что задал мне вопрос о бумаге для отчисления, и ответ выглядел великолепно. Даже уверенно. Оно заканчивалось цитатой: «как указано в разделе 4.2». Я открыл PDF-файл, чтобы проверить, потому что это привычка, которая появляется после одного ожога. Раздел 4.2 был посвящен увеличению данных. Ничего про отсев там не было.
Бот лгал не намеренно. Она делала именно то, что делает модель свободного языка, когда вы просите ее помочь: она заполняла пробел чем-то правдоподобным. Самое тревожное было не в ошибке. Дело в том, что я почти учился на этом. Я бы пошел на экзамен, полагая, что в разделе 4.2 сказано то, чего никогда не было.
Поэтому я превратил проблему в тематическое исследование. Предыстория: Я студент AI/CS в Галифаксе и провел семестр, проверяя, насколько бесплатная инфраструктура может обеспечить реальный учебный процесс. Цель была конкретной — создать генератор тестов, который читает мои конспекты курса, выдает по одному вопросу за раз, работает на бесплатном сервере и оставляет бумажный след, который я могу проверить. Если модель не может показать мне точную линию, на которой основан ее ответ, мне не нужен ответ.
Вся реализация состоит из двух