soloveev: жизнь на марсе 👩‍🎤

Нейросети против Кембриджа: почему с ИИ думать нужно будет еще больше

За последнюю неделю услышал две истории про студентов и ChatGPT. Кратко — все повально списывают с чата, не разбирая, что он выдает.

В первом случае студентам нужно было расчитать бюджет и они взяли цифру в 2500, не поняв даже, что это цена в долларах. Во втором доверились устаревшей информации от чата.

И это касается не только студентов.

Нейросети требуют повышенной информационной осознанности. Первое — понимать как вообще ИИ создает информацию. Знать, где будут галлюцинации, а где можно довериться модели. Второе — сохранять эпистемологическую бдительность при работе с каждым битом знания из любого источника – от ИИ до эксперта.

Последнее я упоминал в посте про «особенности исследователя», который, смотря на белый дом, на ответ «Какого цвета дом» не задумываясь отвечает «С этой стороны белый».

Когда миллионы агентов вырвутся в интернет, нашей задачей будет понимать методологию, корректировать их через обратную связь и вот эта эпистемологическая бдительность.

Что касается студентов, то никуда от ИИ не деться, но подходы к обучению надо будет менять.

В 2023 году в Кембридже, после распространения ChatGPT его фактически запретили использовать. Полгода шли дебаты о неизбежности интеграции ИИ в образовательный процесс. За этот период появилось множество сервисов, предлагающих помощь в исследованиях с использованием ИИ, что сделало его запрет невозможным.

Летом 2024 года университет представил документ «Этика использования искусственного интеллекта в исследованиях». Он устанавливает два ключевых принципа использования ИИ в работах:

1. Принцип прозрачности
Разрешено использовать ИИ, но студенты обязаны к любой работе писать рефлексию с ответами на вопросы: «Какие ИИ использовались», «Какие промпты задавались», «Что было использовано, что отвергнуто и почему».

2. Запрет прямого копирования
Нет Ctrl+C, Ctrl+V! Хотя надежных источников определения плагиата все еще нет. И страдают студенты, чей англ. язык не родной — их не нейтив формулировки антиплагиат часто ошибочно воспринимает за ИИ.

Есть ожидания, что требования к работам студентов вырастут из-за компенсаторного механизма. Поскольку студенты теперь имеют доступ к мощным инструментам, от них будет ожидаться еще более глубокий анализ и оригинальность мышления.

И не только от академических исследователей.

www.group-telegram.com/vn/dsoloveev.com/553

2.7K viewsedited  Mar 11 at 07:28

Нейросети против Кембриджа: почему с ИИ думать нужно будет еще больше

За последнюю неделю услышал две истории про студентов и ChatGPT. Кратко — все повально списывают с чата, не разбирая, что он выдает.

В первом случае студентам нужно было расчитать бюджет и они взяли цифру в 2500, не поняв даже, что это цена в долларах. Во втором доверились устаревшей информации от чата.

И это касается не только студентов.

Нейросети требуют повышенной информационной осознанности. Первое — понимать как вообще ИИ создает информацию. Знать, где будут галлюцинации, а где можно довериться модели. Второе — сохранять эпистемологическую бдительность при работе с каждым битом знания из любого источника – от ИИ до эксперта.

Последнее я упоминал в посте про «особенности исследователя», который, смотря на белый дом, на ответ «Какого цвета дом» не задумываясь отвечает «С этой стороны белый».

Когда миллионы агентов вырвутся в интернет, нашей задачей будет понимать методологию, корректировать их через обратную связь и вот эта эпистемологическая бдительность.

Что касается студентов, то никуда от ИИ не деться, но подходы к обучению надо будет менять.

В 2023 году в Кембридже, после распространения ChatGPT его фактически запретили использовать. Полгода шли дебаты о неизбежности интеграции ИИ в образовательный процесс. За этот период появилось множество сервисов, предлагающих помощь в исследованиях с использованием ИИ, что сделало его запрет невозможным.

Летом 2024 года университет представил документ «Этика использования искусственного интеллекта в исследованиях». Он устанавливает два ключевых принципа использования ИИ в работах:

1. Принцип прозрачности
Разрешено использовать ИИ, но студенты обязаны к любой работе писать рефлексию с ответами на вопросы: «Какие ИИ использовались», «Какие промпты задавались», «Что было использовано, что отвергнуто и почему».

2. Запрет прямого копирования
Нет Ctrl+C, Ctrl+V! Хотя надежных источников определения плагиата все еще нет. И страдают студенты, чей англ. язык не родной — их не нейтив формулировки антиплагиат часто ошибочно воспринимает за ИИ.

Есть ожидания, что требования к работам студентов вырастут из-за компенсаторного механизма. Поскольку студенты теперь имеют доступ к мощным инструментам, от них будет ожидаться еще более глубокий анализ и оригинальность мышления.

И не только от академических исследователей.

BY soloveev: жизнь на марсе 👩‍🎤