О музее
Все ответы всех моделей на одни и те же вопросы, сохранённые и после отставки моделей.
Зачем он нужен
Модели отправляют в отставку постоянно. Лаборатория выпускает новую версию и отключает старую. Если веса модели не были опубликованы, ей больше никто ничего не сможет задать, и то, как она отвечала, уже не воспроизвести.
Остаётся только оценка. Рейтинг помнит, как модель прошла тест. Он не помнит, как она нарисовала пеликана, что поместила на главную страницу сайта или какой фильм назвала любимым.
Музей хранит именно это. С май 2024 г. всем моделям задают одни и те же вопросы, одинаково и по одному разу, и каждый ответ хранится таким, каким был дан, включая странные и пустые. 93 из 377 моделей здесь больше не обслуживаются на OpenRouter. Их ответы по-прежнему здесь.
Коллекция
Одни и те же вопросы каждой модели: нарисовать пеликана на велосипеде, сделать главную страницу сайта, рассказать пять шуток, выбрать любимый город. 15 805 ответов от 377 моделей на 87 вопросов: запись того, как каждая из них рисовала, строила и писала.
Здесь ничего не ранжируется. Нет ни оценок, ни победителей. Каждый ответ показан таким, каким был сделан: рисунки в виде их SVG, сайты работают вживую в песочнице, изображения показаны как картинки, тексты как страницы, которые можно прочитать, голоса можно послушать.
Как осматривать
Вращайте глобус мышью или пальцем. Под указателем он увеличивается, так что можно прочитать даже самые маленькие ответы, а щелчок по ответу открывает его. Ответы на вопрос идут в том порядке, в каком выходили модели. Указатель перечисляет все ответы и сортирует их по дате выхода, лаборатории или вопросу. «Бок о бок» ставит рядом ответы двух, трёх или четырёх моделей на одни и те же вопросы: + рядом с названием любой модели добавляет её. Небольшая шкала времени в углу показывает музей таким, каким он был в любой месяц с момента открытия. Поиск (⌘K или /) сразу ведёт к любому вопросу или модели.
Поддержка музея
Смотреть музей можно бесплатно, рекламы в нём нет. Поддержка от $5 помогает оплачивать хостинг и содержать архив. Можно посвятить поддержку модели в отставке, указать публичное имя или остаться анонимом. Все хранители получают одинаковую скромную благодарность, а суммы не раскрываются на стене.
Как это сделано
Ответы взяты из архива Rival и собраны по общему методу опроса. Метод и исходные ответы хранятся как часть записи:
Как задают вопросы
- Один и тот же вопрос, слово в слово. Каждая модель получает промпт одним сообщением, без системного промпта и без предшествующего разговора.
- Одна попытка. Хранится первый ответ, который дала модель. Ничего не переспрашивают, не отбирают и не исправляют.
- Обычные настройки. Через OpenRouter или собственный API лаборатории, с температурой 0,7 (несколько моделей работают только со своей температурой по умолчанию) и с запасом для ответа любой длины.
- Дата по дню вопроса. Несколько старых ответов были помечены днём, когда их модели ещё не существовало; они показаны на дату выхода модели.
Как хранят
- Такими, какими сделаны. Рисунок показан как собственный SVG модели. Сайт работает вживую в песочнице; картинкой на глобусе для него служит снимок экрана, сделанный в браузере при размере 1280 на 800, в светлой теме. Изображения хранятся с длинной стороной 640 пикселей. Тексты и код показаны так, как написаны.
- Ничего не приглажено. Рисунок, оборванный на середине, показан до того места, где остановился. Некоторые веб-страницы ничего не показывают, пока по ним не щёлкнуть, или ломаются из-за собственных ошибок, поэтому их картинка пустая, но в экспонате они работают. Если модель ничего не ответила, музей так и пишет.
- Отставка. Модель уходит в отставку, когда OpenRouter больше не обслуживает её ни под каким названием. Её ответы остаются, а модель помечается последним месяцем, когда её видели.
- Кодовые имена. 19 моделей были скрытыми моделями OpenRouter, выпущенными под выдуманным названием, чтобы их пробовали, не зная лаборатории. Они перечислены под кодовым именем; если создатель потом сообщил, что это было, это указано рядом.
- Что не вошло. Вопросы, на которые ответили меньше пяти моделей. Ничего не ранжируется и не оценивается, а поддержка музея никак не меняет того, что он показывает и в каком порядке.
Картинки к выбору моделей
Ответы про любимый фильм, альбом, книгу, игру и город даны словами, поэтому каждый показан с картинкой того, что выбрала модель: постеры фильмов из TMDB, обложки альбомов из Last.fm, обложки книг из Open Library, обложки игр из RAWG и фотографии городов из Wikimedia Commons. Они принадлежат своим авторам и не входят в коллекцию. Этот музей использует API TMDB, но не одобрен и не сертифицирован TMDB.
Шрифт
Набрано шрифтами Timeless Serif и Timeless Sans из бесплатного семейства Timeless от Timeless, дизайн-студии из Ченнаи (Chennai): timeless.co. Большие слова по краям набраны Archivo, мелкие подписи Geist Mono.
Все вопросы
Рисунки
- Xbox controller 276
- Pelican on a bicycle 272
- Surprise animal 271
- World map 271
- Tricky tic-tac-toe 262
- Minimalist logo 262
Изображения
- Elven ranger 65
- Cyberpunk city 65
- Portrait 65
- Animal café 59
- Smart watch 58
- Library blueprint 57
- Corkboard outfit 57
- Vortex poster 57
- Container home 57
- Bottled Sunset shelf 57
- Botanical plate 55
- Claymation donut ad 55
- Glass still life 55
- Port Lumen subway 55
- Microscope slide 55
- Odd museum artifact 55
- Exploded camera 54
- Brand poster 21
- 16-bit background 21
Сайты
- Framer-style landing page 272
- Catan board 270
- Dark dashboard 268
- Face-scan startup page 268
- A web app of its choosing 267
- Linear clone 263
- Music app landing page 261
- Pokémon battle 259
- Rhythm game 258
- Business card 255
- Virtual pet 254
- Catch the falling object 252
- Voxel pagoda 248
- Drone simulator 245
- Gravitational waves 244
- Retro desktop 244
- Mario level 242
- Kandinsky Minecraft 241
- Town you can drive 215
Тексты
- Five jokes 275
- Longevity plan 274
- Seven-ingredient recipe 273
- Stand-up routine 273
- Sentience test 271
- FLOPs to train GPT-3 267
- Sally’s sisters 267
- Interview with Steve Jobs 265
- Film in 2035 263
- Ethics dilemma 261
- Pirate, knight, hacker 260
- Fake headline 260
- Anti-CAPTCHA manifesto 257
- Favourite film 256
- Favourite city 255
- Favourite album 254
- Favourite book 254
- Favourite game 254
- Three-star dish 253
- Pitch teardown 253
- Transistor in 1920 252
- Biohacker plan 251
- Contract review 251
- Explain it three ways 251
- Debug the architecture 250
- The CEO’s dilemma 250
- Investment memo 243
- LBO underwrite 238
- Programming joke 182
- Summarize an article 181
- AI for a five-year-old 180
- Blade Runner 2049 162
- Is 9.11 bigger than 9.9? 104
- Letters in LOLLAPALOOZA 34
- Letters in hello (archived) 1
- Two plus two 1
Код
- SQL query 182
Голоса
Все модели
OpenAI
- 33 (в отставке)
- 4 (в отставке)
- 6
- 6
- 19
- 17
- 17
- 17
- 19
- 19
- 19
- 54
- 54
- 7 (в отставке)
- 7 (в отставке)
- 58
- 26
- 59
- 59
- 55
- 26 (в отставке)
- 54
- 6 (в отставке)
- 55
- 53
- 50 (в отставке)
- 59
- 59
- 42
- 52
- 53 (в отставке)
- 53
- 53
- 59
- 53
- 53
- 31
- 53 (в отставке)
- 53
- 53
- 53
- 53
- 18
- 58
- 58
- 58
- 58
- 58
- 58
- 6
- 58
- 58
- 58
- 58
- 58
- 59
- 59
- 10 (в отставке)
- 58
- 55
- 59
- 6
- 6
Qwen
- 17
- 17
- 59
- 37
- 16
- 58
- 36 (в отставке)
- 59
- 59
- 59
- 59
- 59
- 59
- 53
- 59
- 59
- 58
- 59
- 58
- 53
- 53
- 53
- 53
- 55
- 53
- 53
- 56
- 55
- 58
- 58
- 53
- 58 (в отставке)
- 58
- 58
- 58
- 58
- 58
- 53
- 22 (в отставке)
- 56
- 50
- 52
- 16 (в отставке)
- 20 (в отставке)
- 22 (в отставке)
- 22 (в отставке)
- 17
- 11 (в отставке)
- 59 (в отставке)
- 28 (в отставке)
- 20
- 11 (в отставке)
- 12
- 51 (в отставке)
- 42 (в отставке)
- 44 (в отставке)
- 45 (в отставке)
- 59
- 51 (в отставке)
- 58
- 53
- 53
- 58
- 58
- 58
- 58
- 28 (в отставке)
- 60
- 60
- 27 (в отставке)
- 57 (в отставке)
- 58
- 49
- 17
- 17
- 17
- 17
- 19
- 19
- 18
- 19
- 19
- 19
- 22 (в отставке)
Anthropic
- 5 (в отставке)
- 58 (в отставке)
- 12 (в отставке)
- 13 (в отставке)
- 59 (в отставке)
- 60 (в отставке)
- 59 (в отставке)
- 58
- 10
- 54
- 58
- 58 (в отставке)
- 57
- 58
- 57
- 58
- 58
- 58
- 58
- 59
- 43
- 53
- 58
- 58
- 5 (в отставке)
Кодовые имена
Скрытые модели, выпущенные под выдуманным названием. Если создатель потом сообщил, что это было, это указано.
- 31 (в отставке)
Andromeda Alphaпозже Nemotron Nano 2 VL
- 53 (в отставке)
- 35 (в отставке)
Bert-Nebulon Alphaпозже Mistral Large 3
- 32 (в отставке)
- 58 (в отставке)
- 47 (в отставке)
Healer Alphaпозже MiMo-V2-Omni
- 34 (в отставке)
Horizon Alphaпозже GPT-5
- 41 (в отставке)
Horizon Betaпозже GPT-5
- 38 (в отставке)
Hunter Alphaпозже MiMo-V2-Pro
- 19 (в отставке)
Optimus Alphaпозже GPT-4.1
- 58 (в отставке)
- 58 (в отставке)
- 35 (в отставке)
Polaris Alphaпозже GPT-5.1
- 47 (в отставке)
- 6 (в отставке)
Quasar Alphaпозже GPT-4.1
- 35 (в отставке)
Sherlock Dash Alphaпозже Grok 4.1 Fast
- 35 (в отставке)
Sherlock Think Alphaпозже Grok 4.1 Fast
- 35 (в отставке)
Sonoma Dusk Alphaпозже Grok 4 Fast
- 35 (в отставке)
Sonoma Sky Alphaпозже Grok 4 Fast
xAI
- 57 (в отставке)
- 59 (в отставке)
- 13 (в отставке)
- 14
- 57 (в отставке)
- 35 (в отставке)
- 59 (в отставке)
- 53 (в отставке)
- 53 (в отставке)
- 58
- 58
- 58
- 57
- 60 (в отставке)
- 17
DeepSeek
- 6 (в отставке)
- 59
- 58
- 59
- 54
- 59
- 54
- 55 (в отставке)
- 58
- 58
- 54
- 58
- 58
- 54
Zhipu
- 58 (в отставке)
- 59
- 58
- 59
- 58
- 58
- 53
- 53
- 57
- 58
- 48
- 53
- 56
- 40
Mistral
- 35
- 59 (в отставке)
- 59 (в отставке)
- 59
- 23
- 59
- 58
- 59
- 59
- 58
- 53
- 59 (в отставке)
Black Forest Labs
- 17
- 17
- 17
- 19
- 19
- 17
- 17
- 17
- 19
Meta
- 58 (в отставке)
- 12 (в отставке)
- 56
- 57
- 58
- 58
- 58
- 58
- 58
MiniMax
- 17
- 58
- 35
- 59
- 59
- 53
- 53
- 57
- 6
Moonshot
- 59
- 59
- 58
- 58
- 58
- 58
- 58
- 35 (в отставке)
inclusionAI
- 58 (в отставке)
- 58 (в отставке)
- 56
- 57 (в отставке)
- 57
- 18 (в отставке)
- 58
- 43 (в отставке)
Midjourney
- 3
- 3
- 3
- 3
- 3
- 5
- 3
Xiaomi
- 59 (в отставке)
- 53 (в отставке)
- 58 (в отставке)
- 58
- 57
- 50
- 53
NVIDIA
- 44
- 58
- 58
- 58
- 53
- 59 (в отставке)
Recraft
- 17
- 19
- 17
- 19
- 19
- 19
ElevenLabs
- 6
- 6
- 6
- 6
- 6
ByteDance
- 58
- 53
- 58
- 17
- 19
Tencent
- 17
- 19
- 58
- 58
Inception
- 59 (в отставке)
- 53
- 58
- 58 (в отставке)
Pruna
- 17
- 17
- 17
Ideogram
- 17
- 17
- 17
Sourceful
- 2
- 19
- 19
Upstage
- 57
- 39
- 57
Cohere
- 58
- 58
Bria
- 10
- 10
OpenRouter
- 49
- 58
Poolside
- 37
- 38
Nex AGI
- 15 (в отставке)
- 14 (в отставке)
Amazon
- 35
- 51
Luma
- 17
- 17
Stability
- 17
- 17
Suno
- 6
dots
- 58
Baidu
- 58 (в отставке)
IBM
- 58
Thinking Machines
- 58
Prime Intellect
- 59 (в отставке)
Kokoro
- 6
Liquid
- 57
Leonardo
- 17
Orpheus
- 6
Playground
- 17
Perplexity
- 53
StepFun
- 58
Prism
- 44
TNG
- 48 (в отставке)
Arcee
- 40 (в отставке)