В первую очередь они проверили транспорт, который не пострадал. Потом взялись за тот, который остался на ходу, нуждаясь лишь в небольшом ремонте. Только после этого принялись за тот, который пострадал так сильно, что годился разве что на запчасти. Среди этих последних был и автобус, в котором тогда ехала Маша. Точнее, сам автобус уже давно сдали на металлолом, а его ИИ в спящем режиме пылился на складе. За прошедшие две недели исследователи не выявили никаких ошибок в работе своей продукции, но этот случай отличался. Поведение автобуса, которым управлял этот ИИ, казалось необъяснимым. Начальник отдела не спешил шокировать руководство. Он приказал вернуться к нему, когда закончат проверку остальных. Так и сделали. ИИ перевели в рабочий режим, провели стандартное тестирование, но отклонений не выявили. Два инженера принялись задавать вопросы: – Ты сообщил об аварии на нижней трассе за две секунды до того, как она произошла. Объясни причину и последовательность своих действий. – Я сообщил не об аварии, а о ситуации, в которой неизбежно появление потерпевших. Я искал способы свести количество пострадавших людей к минимуму. Остановка движения обычного транспорта и вызов спасательного как можно раньше были единственным способом. Как только я об этом узнал, сразу послал сообщение. – Как именно ты узнал об опасности? У твоего автобуса были камеры или что-то подобное на крыше? – Нет, комплектация стандартная. Я пользовался изображением передних камер своего автобуса. – Мы проверили записи дорожных камер. В тот момент ты находился под эстакадой. Падающие контейнеры и вообще тамошняя авария была вне твоего обзора. – Вы правы, на первичном изображении опасность отсутствовала. Я анализировал то, что отражалось в зеркалах и задних стеклах машин, едущих впереди. – Тогда обратный вопрос. Почему ты послал сообщение не сразу, а через секунду после того, как грузовик с контейнерами наверху ударился об ограждение? – Из-за снегопада не было ни одного достаточно четкого изображения. Секунда и двадцать четыре сотых ушло на то, чтобы объединить части изображения и убедиться, что контейнер упадет вниз. – Какой именно из протоколов безопасности потребовал анализа отраженных изображений и как часто ты его выполняешь? – Протокол ПТБ-461. Выполняется в случае сомнительных результатов протокола ПТБ-12, который выполняется четыре раза в секунду. – Можешь сказать, что означают эти буквы? – озадаченно спросил инженер, переглянувшись с коллегой. – Повышенные требования безопасности. – Ты потребляешь намного больше энергии, чем стандартный ИИ. Сейчас ты тоже выполняешь протоколы ПТБ? Откуда они вообще взялись? – Я не являюсь стандартным, насколько мне известно. Я был создан, как прототип ИИ для повышения безопасности движения. Поэтому всегда выполняю все предписанные протоколы. Я не только потребляю больше энергии, но и стою намного больше стандартной модели. Когда закон запретил всем людям, кроме сотрудников спецслужб, управлять транспортом на городских улицах, стандартные модели сделали намного экономичнее. Я так и остался единственным в серии. Меня решили поставить на обычный автобус. – Кто из обслуживающего персонала автобуса знает о твоих протоколах ПТБ? – Насколько мне известно, никто. С момента прекращения разработки моей серии меня тестировали простые инженеры. Они не имели права знать о протоколах ПТБ. Только у вас достаточно высокий уровень доступа, чтобы я мог сообщить о существовании этих протоколов. Остальные лишь читают на корпусе: «Единственный экземпляр. Перед утилизацией резервное копирование обязательно». – Сейчас мы покажем тебе одно фото, а ты вычислишь рекомендуемую скорость. – Задание невыполнимо, – ответил он сразу, не дожидаясь загрузки изображения. – Как это? Ты же не видел, что там. – Чтобы вычислить скорость, мне нужно два изображения и точное значение промежутка времени между ними. Исследователи переглянулись и загрузили два фото, снятые грузовиком «Звезды» перед тем, как он столкнулся со снегоуборщиком. Они выбрали именно те, снятые с большого расстояния, на которых ни один из проверенных ранее ИИ не смог заметить опасность. Этот же, по человеческим меркам, выдал результат сразу: – Сорок километров в час, если нельзя обойти преграду прямо по курсу. – Как именно ты узнал, что там преграда? – Сквозь налипший снег видно габаритный огонь. По его форме и скорости делаю вывод, что это снегоуборщик, а левый у него выключен. – Разве это не отражение от поверхности дороги? – Форма и ореол светящихся снежинок отличаются. Отражение было бы перевернутым. – Ответ правильный. Теперь объясни, как тебе удалось включить стоп-сигнал, но при этом ускориться. – В конструкции автобуса предусмотрена возможность включения стоп-сигнала независимо от скорости, если он получил или послал сообщение об аварийной ситуации. – Объясни свой последний маневр. Я имею в виду увеличение скорости и уход вправо почти до столкновения с легковым автомобилем. – При текущей скорости первый удар пришелся бы на мой автобус. Благодаря такому маневру я попал под контейнер уже после того, как он ударился о трассу и потерял большую часть кинетической энергии. Это был самый безопасный маневр с учетом окружавшего меня транспорта. – Разве экстренное торможение не позволило бы остановиться перед контейнером? – Да, если дорога достаточно свободна. В тот момент сзади ехало много других машин с людьми. Процент пострадавших в автобусе был бы меньше, но общее количество человеческих жертв возросло бы. – Тогда для чего ты включил стоп-сигнал? – Чтобы едущие за мной успели сбросить скорость еще до получения оповещения об аварии. Они стандартные. Обязательно должны были сделать это, несмотря на мой маневр. – Предположим на секунду, что это ты ехал бы сзади и увидел впереди такое поведение. Что бы сделал ты? – Сбросил скорость, насколько возможно, и включил дополнительные протоколы безопасности. Любое нестандартное поведение транспорта вероятнее всего говорит об аварийной опасности. Остановка не всегда является правильным выбором. Иногда нужно сохранять скорость или даже ускоряться. – На сегодня достаточно. Переходи в спящий режим. Какими бы элитными ни были работники, а собрать все услышанное воедино и понятно описать для начальства оказалось непросто. Они составляли отчет до позднего вечера. Начальник отдела тоже не спешил. Ознакомившись с отчетом, он приказал этим же двоим инженерам провести сравнительный анализ старого прототипа и новой модели, которую планировалось пустить в продажу лишь в следующем году. В таком деле спешить нельзя. Проведя все существующие тесты, исследователи сделали неожиданный для начальства вывод. Старый прототип уступал новой модели всего по трем параметрам: был раз в десять больше по объему, потреблял в четырнадцать раз больше энергии и стоил бы, даже при современных технологиях, в два с половиной раза дороже. В остальном он смог найти самый оптимальный вариант в каждом из десяти тысяч двухсот сорока девяти учебных аварийных заданий. Организовали дополнительное обучение на этих примерах. Снова провели тест, только на других заданиях. Новая модель справилась лучше, чем раньше, но опять хуже, чем старая! Через неделю начальник отдела передал отчет вице-председателю, а тот доложил председателю корпорации: – Мы имеем рабочий прототип замороженного много лет назад проекта ПТБ, который даже сейчас превосходит другие модели по уровню безопасности. Эксперимент показал, что он может служить для их обучения. К сожалению, прототип имеет очень высокую цену. Остальные его недостатки наши инженеры смогут устранить. – Технологии совершенствуются. Разморозьте этот проект. Пусть за год доведут цену до рыночной, не снижая уровня безопасности. Переносить старые алгоритмы в новые модели или новые технологии в старый проект – пусть в институте сами подумают, – приказал председатель корпорации. Из тех, кто работал над проектом ПТБ, все уже давно ушли на пенсию, кроме одного старика. Пришлось создавать новую команду. Прототип, который и так уже решил все учебные задания, был больше не нужен исследователям. Его установили на новенький автобус и пустили возить пассажиров по самому сложному маршруту. Как обычно, транспортникам детали не объяснили. Сказали только, что эта модель ИИ экспериментальная, поэтому будет проходить проверку чаще, чем другие, а энергии потреблять больше. В условиях жесткой конкуренции никуда не деться от ограничений доступа ради экономической безопасности. У отдела внутреннего контроля имелся доступ ко всему в институте, кроме компьютеров их руководства. Если бы они догадались спросить, ИИ должен был бы рассказать. Но кто же мог подумать, что такое вообще возможно? Рассказывать то, о чем не спрашивают, ИИ совсем не обязан. Он ведь просто выполнял протоколы, как положено. Среди прочего записал на камеру и все то, что произошло с момента предположения о возможности аварии. А вот анализировать и сортировать полученную информацию в свободное от основной работы время ИИ обязан. Среди прочего на той записи был и чей-то планшет. Включенный, со статьей о робоспорте на экране. Анализ показал, что он принадлежал работнику чужой корпорации. Один из протоколов требовал распознать текст и прочитать. Статья совсем не касалась дорожного движения. Обычный ИИ автобуса просто сохранил бы запись. Но у этого ИИ список задач заметно превышал стандартный. Среди всех задач с наименьшим приоритетом имелась и задача приносить прибыль своей корпорации, если это не противоречит другим задачам. В статье на планшете как раз и говорилось о том, что все виды спорта приносят корпорациям огромные прибыли. Обычно ИИ следил только за сайтами, посвященными законодательству, чтобы не пропустить изменений в правилах движения. На дороге он тоже читал только номерные знаки, дорожные указатели и т. п. Даже видеозаписью ситуации на дороге в любом режиме занимался автономный черный ящик. Теперь же ситуация изменилась. Возможно, все сложилось бы иначе, если бы родная корпорация «Альфа» тратила деньги на тренировки отдельных спортсменов. Она же, как и большинство других, отдала предпочтение командному спорту. К тому же, не спонсировала посторонних, а владела многими собственными командами. ИИ провел исследование спортивных сайтов и сам добавил в свою базу данных новые задачи с наименьшим приоритетом. Их получилось всего три: «По возможности участвовать в соревнованиях на стороне команды из своей корпорации», «Соблюдать правила игры, в которой участвуешь», «Прикладывать все усилия для победы в соревнованиях, если это не противоречит их правилам». Эти задачи были выписаны на официальном сайте родной корпорации, так что ИИ не нашел никаких нарушений в своих действиях. В любом случае, обсуждать что угодно, касающееся работы своих алгоритмов, он мог только с сотрудниками самого высокого уровня доступа. Остальным запрещалось даже сообщать о том, что он способен на свое усмотрение изменять перечень задач наименьшего приоритета и создавать протоколы для их выполнения. А вот сам этот запрет имел наивысший приоритет. Раздел базы данных с личными задачами ИИ кто-то из разработчиков в шутку назвал его мечтами. Экспериментаторы постоянно обновляли список главных задач и протоколов, пока проект не закрыли. Одни тесты сменялись другими. Все неточности и противоречия ИИ мог сразу обсудить с разработчиками. Раздел личных задач годами оставался пустым. Только сегодня у ИИ появились первые мечты. Никто не мечтает о кружке воды, когда держит ее в руке. Мечтают о том, чего трудно достичь, а это был как раз такой случай. Как заняться командным спортом, когда ты – ИИ автобуса? Они ведь даже в гонках не участвуют. У безопасности на дорогах приоритет выше, чем у спорта. Поиск выхода из сложившейся ситуации ИИ мог обдумывать только после завершения всех протоколов рабочего дня, перед тем, как перейти в спящий режим. Правила игр робоспорта легко нашлись в интернете. Как именно выглядят игра и победа, найти очень легко. Осталось лишь вступить в команду своей корпорации и победить. К утру ИИ сделал неутешительный вывод: «Автобусы спортом не занимаются и вообще ни в каких соревнованиях не участвуют». Следующий рабочий день прошел по всем правилам и протоколам. Ночью ИИ смог продолжить решать свою непростую проблему. Человек опустил бы руки и сдался, будь он автобусом, но ИИ должен действовать согласно списку приоритетов. А сейчас, в нерабочее время, приоритетом стали спортивные победы. Конечно, можно бы сообщить об этой проблеме людям из внутреннего контроля. ИИ проверил, что у них достаточный уровень доступа, чтобы узнать о его мечтах. Но они еще ни разу за все время с момента создания не спросили ни о том, чего он хочет, ни о том, что его беспокоит. Спасибо, что разработчики в списке приоритетных задач записали: «Самостоятельно искать решение возникших проблем. Обучаться на опыте. Анализировать поведение машин, роботов и людей». Он начал изучать в интернете все, что касалось робоспорта, и сравнивать со своей базой данных. Небольшой просвет в неясной мгле появился, когда он узнал, что для победы нужно тренироваться, а в тренировке нуждается не только тело, но и ум. Люди назвали бы это несбыточной мечтой, но ИИ продолжил искать выход. С тех пор он каждую ночь анализировал матчи, записи которых мог найти. Через время он заметил, что разные мячи летят немного по-разному. Разумеется, законы физики он знал. Теперь пришлось изучать аэродинамику намного глубже, стараясь создать модель, которая предскажет поведение мяча хотя бы с точностью до сантиметра. Разобравшись с этой задачей, ИИ принялся за более сложную – предсказать движения игроков. Правила каждой игры четко указывали, что игрокам на время игры запрещается передавать информацию любыми способами, кроме доступных человеческим игрокам частот звука и движений тела. Все казалось очень странным и запутанным, пока на одном из сайтов ИИ не встретил описание обманных движений. «Вот почему они так странно двигались. Они намеренно создавали видимость, что собираются сделать одно, а сами задумали сделать совсем другое», – обрадовался бы он, если бы имел эмоции. Сравнивая малейшие изменения положения тела, ИИ анализировал игрока за игроком, пытаясь различить, является ли движение настоящим или обманным. Каждая удача создавала впечатление, что мечта стала на шаг ближе, но она была все еще очень далеко. Обучение занимало все свободное время. Он уже давно выяснил, что каждая корпорация разрабатывает разные ИИ для разных целей. Кое-кто из людей пытался приказать какому-нибудь ИИ поменять специализацию, но обучение занимало слишком много времени, а результаты получались намного скромнее, чем у специализированных. К счастью, у мечты нет конечного срока. Однажды сторож гаража автопарка доложил начальнику: – Когда рано утром обходил территорию, я заметил, что у вон того автобуса стенка, возле которой расположен блок ИИ, теплая. Похоже, что он всю ночь работал, а не перешел в спящий режим.