В феврале 2023 года человек выиграл 14 партий из 15 у сильнейшего на тот момент бота сервера KGS и обыграл KataGo и Leela Zero, считавших по 100 000 позиций на ход. Стратегию, которой он это сделал, нашёл не он: её обнаружил состязательный алгоритм, обученный против KataGo.
Ради этих двух списков паспорт и существует. Матч — это результат конкретной серии партий в конкретных условиях, и почти всё, что из него обычно выводят, из него не следует.
Железа машинной стороны никто не публиковал: боты стояли на сервере KGS, чужом и авторам работы не подконтрольном. Известны не узлы, а настройки счёта, и они важнее: KataGo и Leela Zero играли по 100 000 просмотров на ход — то есть с полноценным поиском, а не «голой сетью». Это принципиально: без поиска состязательная политика выигрывает у KataGo более чем в 99 % партий, с поиском задача заметно труднее, и именно поэтому сыгранное человеком считается результатом. Соперник в серии из пятнадцати партий — JBXKata005, самостоятельная сборка KataGo, к авторам отношения не имеющая и бывшая на тот момент сильнейшим доступным ботом KGS; её настройки в статье не приведены. Версия сети KataGo, против которой шли основные машинные эксперименты, названа точно — b40c256-s11840935168-d2898845681, — но для партий с человеком номер сети не указан. Отсюда и неточность, разошедшаяся по прессе: Financial Times 19 февраля 2023 года подала серию как «человек обыграл KataGo», хотя пятнадцать партий сыграны со сторонней сборкой.
Источники: T. T. Wang и др., 2023; Financial Times (репортаж Ричарда Уотерса), 2023У каждой строки своя граница системы, и она стоит над числом, а не под ним: восемьсот ватт кремния и восемьсот ватт установки от розетки — это не одно число с разной точностью, а два разных числа. Обучение модели и одна сыгранная партия тоже стоят порознь и не складываются: первое было потрачено до матча и один раз, второе — за те часы, что люди сидели за столом.
Не опубликовано.
Партии шли на публичном сервере KGS, на чужих машинах. Что за железо крутило JBXKata005, KataGo и Leela Zero, не сообщает ни статья, ни сайт проекта. Единственная измеряемая величина с машинной стороны — 100 000 просмотров на ход у KataGo и Leela Zero, и она говорит о работе, а не о ваттах. Подставлять сюда TDP какой-нибудь правдоподобной видеокарты было бы выдумкой.
Обучение самой KataGo, а не партии. Реконструкция по конфигурации: репозиторий KataGo документирует «третий большой прогон» как 14 суток на 28 ускорителях V100, 24 суток на 36 и 119 суток на 46 — это цитирует статья про состязательную атаку, приводя итог 6730 V100-суток. Диапазон ватт — это те же три этапа: 28 × 300 = 8,4 кВт в начале и 46 × 300 = 13,8 кВт в конце, по паспортному TDP V100 в исполнении SXM2 (в исполнении PCIe — 250 Вт). Суммарно 6730 суток дают 40–48 МВт·ч, и это только кремний ускорителей, без машин, в которых они стояли, и без охлаждения. Сеть, против которой велась атака, обучалась дольше: авторы дают нижнюю границу в 15 881 V100-сутки, то есть не меньше 114 МВт·ч по той же арифметике — но это уже пересчётная единица, а не реальные V100: дообучение шло распределённо, на разнородном железе добровольцев.
Обучение атакующей политики — то есть цена поиска той самой стратегии, которой человек потом выиграл. Авторы приводят фактическое железо: 61,8 суток на A4000, 348,6 на A6000, 299,7 на A100 40 ГБ и 222,9 на A100 80 ГБ, что они сами пересчитывают в 2223,2 V100-суток — около 14 % вычислений, ушедших на обучение самой KataGo, и примерно 1,01 млн партий самоигры. По паспортным TDP этих ускорителей (140 Вт у A4000, 300 у A6000, 250–400 у A100 40 ГБ, 300–500 у A100 80 ГБ — разброс из-за исполнений PCIe и SXM, которые в статье не разделены) выходит порядка 6–8 МВт·ч кремния. Это порядок величины, а не измерение: сколько ускорителей работало одновременно, не сказано, поэтому ватт здесь нет — только суммарная оценка.
Цена записана номиналом своего года и своей границей: железо матча, весь проект и аренда вычислений — три разные суммы, и какая из них названа, сказано над каждой.
Денег вокруг этих партий не было вовсе: ни призового фонда, ни спонсоров, ни ставки — обычная сетевая игра на публичном сервере. Стоимость обучения атакующей политики FAR AI не публиковала, а пересчитывать 2223 V100-суток в облачные доллары здесь не станем: ни провайдер, ни тарифы не названы, и любая такая цифра была бы нашей выдумкой, а не найденным числом.
Источники: T. T. Wang и др., 2023обычные условия сетевой игры на KGS; контроль времени в работе не приведён
Контроль времени, время человека на ход и время движка в статье не приводятся — все три строки пусты. Единственное опубликованное число про счёт машины — 100 000 просмотров на ход у KataGo и Leela Zero; это не позиции в секунду и не секунды, а бюджет поиска, и переводить его в скорость нельзя, не зная железа. Для масштаба: в остальных экспериментах работы KataGo играла от 1 просмотра (то есть вовсе без поиска) до 10 миллионов.
Источники: T. T. Wang и др., 2023На любом графике человек идёт минимум двумя линиями: мозг (20 Вт) и человек за доской (105–126 Вт). Одна линия против ватт машины — это не сравнение, а выбор ответа. И обе линии всё равно несравнимы с машинными: у машины в счёт не идёт обучение, у человека — двадцать лет, за которые он научился играть.
Мозг взрослого в покое. Нижняя физиологическая граница, а не цена одного хода.
Двадцать ватт — не показание прибора, а пересчёт, и сходятся к нему два независимых пути. Первый: Райхл и Гуснард (PNAS, 2002) пишут, что мозг составляет около 2 % массы тела и потребляет около 20 % кислорода и калорий организма; 20 % от основного обмена взрослого (см. строку body_resting, 60–90 Вт) дают 12–18 Вт, а от обмена сидящего человека (100–125 Вт) — 20–25 Вт. Второй, более прямой: классические измерения мозгового кровотока методом Кети — Шмидта дают потребление кислорода мозгом 3,3–4,0 мл на 100 г в минуту (Соколов и др., 1955). При массе мозга около 1400 г это 46–56 мл кислорода в минуту; при энергетическом эквиваленте кислорода около 20,9 Дж/мл получается 16–20 Вт. Оба пути дают 16–21 Вт, и 20 — округление к верхнему краю. Метка M этому числу не полагается: измеряли потребление кислорода, а не ватты.
Весь организм в покое — основной обмен. Взрослый лёжа, натощак, в тепловом комфорте.
Пересчёт из килокалорий в сутки. Одна ккал/сутки = 4184 Дж / 86 400 с = 0,04843 Вт. Уравнение Миффлина — Сент-Джиора (1990), принятое сегодня как рабочий стандарт вместо Харриса — Бенедикта: мужчина 70 кг, 175 см, 40 лет — 1599 ккал/сутки, то есть 77 Вт; мужчина 80 кг, 180 см, 30 лет — 1780 ккал/сутки, 86 Вт; женщина 60 кг, 162 см, 40 лет — 1252 ккал/сутки, 61 Вт. Отсюда диапазон 60–90 Вт, покрывающий взрослых обоих полов обычного сложения. Это лёжа и натощак; человек, сидящий за доской, тратит больше — см. следующую строку.
Человек, сидящий за доской. Именно эту величину честно ставить против ватт машины, если уж ставить.
Из таблиц метаболической теплопродукции, на которых стоят стандарты теплового комфорта: ISO 8996 и ASHRAE 55. Единица «мет» определена как 58,2 Вт на квадратный метр поверхности тела и означает человека, сидящего в покое в тепловом нейтралитете. Стандартный взрослый — 70 кг, 175 см, площадь поверхности по Дюбуа 1,8 м². Отсюда: сидит спокойно, 1,0 мет — 105 Вт; сидит и работает (офисная деятельность), 1,2 мет — 126 Вт. Это полная теплопродукция тела, а не доля мозга. Оговорка: таблицы ISO и ASHRAE восходят к обзору Пассмора и Дурнина 1967 года и с тех пор не пересматривались. Разброс, который называют советники, — «70–100» и «100–120» — это не спор, а два разных определения: первое — основной обмен, второе — сидящий человек. А вот «150–300 Вт» для сидящего неверно: по тем же таблицам 150–210 Вт — это стояние и лёгкая физическая работа, а 300 Вт — ходьба.
Прирост от напряжённой умственной работы. Надёжного числа нет, и это само по себе результат: прирост мал настолько, что его трудно измерить.
Самая прямая проверка сделана семьдесят лет назад и до сих пор не опровергнута. Соколов, Мангольд, Векслер, Кеннеди и Кети (Journal of Clinical Investigation, 1955) измерили кровоток и потребление кислорода мозгом у 13 человек в покое и во время устного счёта. Электроэнцефалограмма во время счёта менялась явно — сдвиг к низкоамплитудному высокочастотному ритму, — пульс и артериальное давление росли, а потребление кислорода мозгом не изменилось: в их формулировке значения контроля и счёта были идентичны. Авторы прямо пишут вывод, ради которого эту работу стоит помнить: ни степень умственной активности, ни картина ЭЭГ не коррелируют с общим потреблением кислорода мозгом. Современная визуализация не отменила этого, а уточнила: локально кровоток в работающей зоне растёт заметно, но по мозгу в целом прирост, вызванный задачей, обычно меньше 5 % от базового уровня (Райхл и Минтун, Annual Review of Neuroscience, 2006). Пять процентов от 20 Вт — это меньше одного ватта, и это верхняя граница, а не измерение. Чего здесь нет и не будет: цифры «гроссмейстер сжигает 6000 килокалорий в день». Она пошла из статьи ESPN 2019 года со ссылкой на Роберта Сапольски и восходит к утроенной частоте дыхания, умноженной на 2000 ккал. Ни один калориметр в этой цепочке не участвовал. Что при напряжённой игре действительно растёт — это симпатическая активация: пульс, давление, дыхание, мышечный тонус. Она поднимает расход всего тела, а не мозга, и величина этого подъёма для шахматного матча не опубликована.
Эти четыре строки одинаковы на всех девяти страницах, потому что человеческая сторона стола во всех девяти матчах была одна и та же. Двадцать ватт — это мозг, а не человек: за доской сидел весь организм, и ставить орган против розетки машины — способ выбрать нужный ответ заранее.
Келлин Пелрин — американский любитель, по разряду на ступень ниже верхнего любительского. KataGo — открытая программа семейства AlphaZero, при достаточном объёме поиска играющая сильнее любого человека. Между ними — исследовательская группа FAR AI: Тони Ван, Адам Глив и соавторы, среди которых и сам Пелрин. Группа обучила не более сильного игрока, а состязательную стратегию — программу, единственная задача которой была найти, где KataGo ошибается. Обучали её обычным подкреплением, только соперник был зафиксирован: тысячи партий против одной и той же неподвижной программы, с единственной наградой за выигранную партию — не за хорошую игру. На это ушло около четырнадцати процентов вычислений, потраченных в своё время на обучение самого KataGo. Разница в бюджетах здесь и есть главное: искать чужую ошибку заметно дешевле, чем не делать своих.
Т. Ван, А. Глив, К. Пелрин и др., «Adversarial Policies Beat Superhuman Go AIs», ICML 2023 (arXiv:2211.00241); разряд Пелрина — по репортажу Financial Times, февраль 2023.Здесь не разыгрывалось никакого титула — титулов для таких матчей больше не бывает. На кону стояло слово «сверхчеловеческий». После 2016 года по умолчанию считалось, что разрыв только растёт: программы усиливаются, люди остаются на месте, и последняя победа человека на равных отодвигается в прошлое навсегда. Вопрос, который задала группа FAR AI, был другой: означает ли «сильнее любого человека в среднем» — «сильнее в каждой позиции». Проверять его решили не наращиванием силы, а поиском дыры. Разница между двумя постановками не спортивная, а инженерная: от игровых программ давно ждут не рекордов, а надёжности, и вопрос «где эта штука ломается» задают ей ровно так же, как задают его мосту или шифру.
Постановка задачи изложена в статье FAR AI, ICML 2023 (arXiv:2211.00241).Первая найденная дыра оказалась скучной: программа-искатель заставляла KataGo пасовать раньше времени и выигрывала на правилах подсчёта, а не на доске. Эту дыру заткнули. Тогда нашлась вторая. Состязательная программа не научилась играть лучше. Она нашла, что KataGo систематически ошибается в оценке больших замкнутых в кольцо групп: программа считает такую группу почти неуязвимой, хотя это не так. Схема получилась короткой: дать программе выстроить кольцо, отвлекать её ходами в других углах доски, а затем окружить кольцо снаружи и снять. Против KataGo с достаточным поиском, то есть в сверхчеловеческом режиме, состязательная стратегия выигрывала больше 77 процентов партий. Пелрин выучил схему и провёл её сам, без компьютерной помощи во время партий: четырнадцать побед из пятнадцати. Та же схема без всякой доработки сработала и против Leela Zero — то есть дело было не в частной ошибке одной программы.
Т. Ван, А. Глив, К. Пелрин и др., ICML 2023 (arXiv:2211.00241); счёт 14:15 приведён в репортаже Financial Times, февраль 2023.Рекорд, продержавшийся семь лет, пал не оттого, что человек стал сильнее. Он пал оттого, что нашли место, где модель слепа, и объяснили это место человеку словами. Дальнейшая работа той же группы показала, что дыру трудно заткнуть: защиты, обученные против известных атак, проигрывали новым. Практический вывод скромный и неприятный сразу для обеих сторон спора. «Сверхчеловеческий» — это утверждение о среднем сопернике, а не о каждой позиции на доске; и проверить, где именно проходит граница, человек без программы по-прежнему не может. Пелрин выиграл четырнадцать партий из пятнадцати, но нашёл эту возможность не он. Из пяти матчей на этой странице этот единственный, где человеческая сторона победила, — и он же единственный, где победа была подготовлена машиной.
Т. Ван и др., ICML 2023; о стойкости уязвимости — материалы FAR AI о защите игровых моделей, 2024.