Транспарентность в фундаментальных моделях: следующий шаг в индексе транспарентности фундаментальных моделей FMTI
Фундаментальные модели играют центральную роль в влиянии искусственного интеллекта на экономику и общество. Прозрачность важна для ответственности, конкуренции и понимания, особенно в отношении данных, использованных в этих моделях.
Правительства принимают регулятивные акты, такие как AI Act ЕС и AI Foundation Model Transparency Act США, чтобы повысить прозрачность. Индекс транспарентности фундаментальных моделей (FMTI), внедренный в 2023 году, оценивает прозрачность 10 крупных разработчиков (например, OpenAI, Google, Meta) с использованием 100 индикаторов. Первоначальный FMTI v1.0 показал значительную непрозрачность, со средним баллом 37 из 100, но также отметил переменчивость в раскрытии.
Индекс транспарентности фундаментальных моделей (FMTI)
FMTI представляет собой технологию транспарентности с иерархической таксономией, соответствующей цепочке поставок фундаментальных моделей. Таксономия включает три основных домена: начальные ресурсы, сама модель и ее последующее использование, охватывающие 23 поддомена и 100 двоичных индикаторов транспарентности. FMTI v1.0 выявил широкую непрозрачность среди 10 оцененных компаний, с наивысшими баллами всего 54 из 100. Открытые разработчики моделей показали более высокие результаты, чем закрытые. Индекс направлен на отслеживание изменений во времени и стимулирование прозрачности через общественное и стейкхолдерское давление.
Исследование и эволюция транспарентности
Станфордский университет, MIT и Принстонский университет представили последующее исследование (FMTI v1.1) для оценки эволюции транспарентности в фундаментальных моделях за шесть месяцев, поддерживая 100 первоначальных индикаторов транспарентности. Участвовали 14 разработчиков, раскрыв новую информацию для 16.6 индикаторов в среднем.
Исполнение FMTI v1.1
FMTI v1.1 включает четыре этапа: выбор индикаторов, выбор разработчиков, сбор информации и оценка. 14 разработчиков представили отчеты о транспарентности для своих флагманских моделей. Оценка включала двух независимых исследователей, которые оценивали раскрытия, последованное итеративным процессом опровержения, улучшающим прозрачность.
Социальное влияние фундаментальных моделей
Фундаментальные модели привлекают внимание различных заинтересованных сторон. Индекс транспарентности фундаментальных моделей показывает, что прозрачность в этой экосистеме нуждается в улучшении, но существует положительная динамика с 2023 года. Анализируя раскрытия разработчиков, Индекс помогает заинтересованным сторонам принимать обоснованные решения.
Приходите в наш телеграм-канал для получения дополнительной информации о внедрении ИИ в ваш бизнес.
