Была ли моя работа в обучающей выборке ИИ? Чем она обычнее, тем меньше шансов это проверить
Разбираемся, что на самом деле умеют membership inference и training data attribution, почему высокий influence score не означает авторства и почему происхождение данных проще сохранить до обучения, чем восстанавливать после.Со 2 августа в ЕС заработала статья 50 AI Act: генеративные системы обязаны помечать синтетический текст, картинки, аудио и видео машиночитаемым способом. В середине сентября Spotify начнёт вешать ярлык AI Persona на профили несуществующих исполнителей и убирать их из рекомендаций.То есть на вопрос «это сделал ИИ?» индустрия за год научилась отвечать вполне прилично.А теперь вопрос с другой стороны. Вы музыкант, у вас двадцать лет каталога. Модель обучалась на чём-то. Как проверить, была ли там ваша конкретная запись — и повлияла ли она на трек, который кто-то сгенерировал вчера?Короткий ответ: практически никак. Но не потому, что «модель ничего не хранит» — это распространённое и неверное объяснение. Причина сложнее и интереснее. Читать далее