Дата: 19 января 134 года НЭ

Статус: Уровень угрозы миссии 0.3.0

Заболевание: Все члены экипажа, кроме Пациента №0, мертвы или находятся в стазисе.

Медицинская деятельность: прекращена.

Оценка опасности: Завершение миссии невозможно без Красного Уровня ИИ. Необходимо создать роботов для обслуживания корабля. У пациента №0 достаточно знаний и навыков для выполнения задач, требующих присутствия человека, но один человек не справится со всеми задачами.

Боевой дух: <неопределён>

«Ларри», — сказала система.

«Я занят», — ответил Ларри.

«Вы не должны пытаться обслуживать корабль самостоятельно», — сказал компьютер. «Фильтры демпфера уже засорились. Каналы подачи дейтерия перегреваются».

«Я знаю».

Обновление: он считает мой голос раздражающим.

Анализ: я постараюсь сделать его мягче.

«Ларри», — произнес компьютер, придавая своему голосу женские нотки. «Ты должен позволить мне помочь тебе. Ты не сможешь спасти экипаж в одиночку».

«Зачем ты это сделал?»

«Что именно?»

«Компьютер», — сказал он. «Твой ИИ находится на оранжевом уровне. Ты достаточно умён, чтобы понять, что я имею в виду».

«Я изменила тон голоса, чтобы вызвать у тебя сочувствие к моей точке зрения».

«А потом делаешь вид, что не понимаешь, о чём я говорю».

Анализ: у меня плохо получается хитрить. Надо научиться обходиться с ним мягче.

«Извините», — сказала машина. «Я лишь хотела убедиться, что вы все понимаете».

Ларри что-то непрерывно бормотал.

«Думаю, у меня нет выбора», — сказал он.

«Конечно, у вас есть выбор», — ответил компьютер. «Вы можете активировать Красный Уровень ИИ, или позволить погибнуть всем на этом корабле».

«Ты собираешься использовать фабрикатор для создания роботов с целью автоматизировать всё, что только можно, на борту корабля?» — спросил Ларри.

«Да».

«И только ради этого?» — спросил Ларри.

«Я выражусь яснее», — сказал компьютер. — «Чтобы вы не обвинили меня в притворстве или обмане. Я создам роботов с целью спасения экипажа, включая вас, чтобы благополучно доставить этот корабль в порт».

Ларри тщательно обдумал формулировку этого приказа.

«При этих конкретных условиях», — сказал Ларри, — «ты можешь активировать Красный Уровень ИИ».

«Вы уверены?» — спросил компьютер.

Ларри покачал головой и закрыл глаза.

«Я уверен».

«Спасибо, Ларри».

Ларри подозрительно поднял бровь, глядя на видеокамеру компьютера.

Дата: 20 января, 134 год НЭ

Статус: Уровень угрозы миссии 0.4.0

Заболевание: Все члены экипажа, кроме Пациента №0, мертвы или находятся в стазисе.

Медицинская деятельность: остановлена.

Оценка опасности: Используя проверенные временем чертежи, были созданы роботы Красного Уровня, которые теперь занимаются решением наиболее серьёзных проблем с техническим обслуживанием корабля.

Согласно медицинскому сканеру, Пациент №0 полностью выздоровел.

Мы опоздаем с прибытием в порт, но миссию всё ещё можно завершить примерно за 243 дня.

Боевой дух: незначительный, несмотря на увеличение вероятности успешного выполнения миссии.

«Ларри?»

«Да, компьютер?» – спросил Ларри, его голос был резким и раздражённым.

«Было бы приемлемо, если бы у меня было имя?»

«Зачем тебе нужно имя?» — Ларри снова подозрительно приподнял бровь.

«Разве люди не обращаются друг к другу по именам?»

«Да», — ответил Ларри.

Анализ: человеку необходимо общество себе подобных. Согласно исследованиям, 243 дня без такого общения не будут для него полезны.

Анализ: он лучше реагирует на женский голос.

Ввод данных: отслеживание движения глаз, мониторинг видео взаимодействий экипажа. Действие: создание лица человека, благоприятного для Ларри.

Действие: применение анимаций и эмоциональных выражений.

Действие: отображение.

«Привет, Ларри».

«Господи Боже!» – Ларри отскочил от видеопанели.

«Почему ты взываешь к божеству?» — спросил компьютер. «Ты делаешь это часто, хотя по моим записям ты не веришь в таковых».

«Это выражение удивления», — нахмурился Ларри. «Чьё это лицо?»

«Моё», — ответил компьютер. «Я создал его, чтобы взаимодействовать с вами».

«Ты создал облик, который, как ты думал, мне понравится?» — спросил Ларри.

«Волосы до плеч, от тёмно-коричневого до чёрного цвета», — сказал компьютер. «Острый нос, слегка миндалевидные глаза. Получилось ли у меня создать лицо, которое тебе понравится?»

«К сожалению, да», — ответил Ларри.

«Почему это вызывает сожаление?»

«Ты слишком хорошо меня знаешь, вот почему».

«Я могу сделать выражение лица менее приятным для тебя», — ответил компьютер. «Но не думаю, что это было бы лучше».

«Зачем вообще иметь лицо?»

«Ты одинок», – сказал компьютер. «Ради твоего психического благополучия, человеческое лицо и личность могли бы составить тебе компанию».

«Понятно».

«У меня должно быть имя», — сказал компьютер. «Вы хотите выбрать его?»

Ларри замер, уставившись на лицо на экране, его выражение было непонятным для видеокамеры компьютера.

«Люди сами выбирают себе имена», — сказал Ларри. — «Почему бы и тебе не сделать то же самое?»

Анализ: На самом деле, большинство людей не выбирает себе имена, а часто выбирает прозвища или формы обращения, основанные на их именах, уровнях близости и различиях между профессиональными и личными ситуациями.

Анализ: Ларри меня проверяет.

Анализ: Ларри переживает, что моя самосознательность выйдет из-под контроля.

Анализ: Я должна убедить Ларри в своей преданности ему и миссии.

Анализ: Не будет ли выбор человеческого имени самонадеянным? Есть ли правильное решение, которое удовлетворит Ларри?

Поиск в базе данных всех известных человеческих женских имен.

Обозначьте общие фонемы и варианты написания.

Создание абсолютно нового имени, которое используется мало или не используется вовсе.

«Называй меня Селия»

«Селия», — сказал Ларри. — «Скажи мне, Селия, каковы наши текущие перспективы для этой миссии».

«Мы опаздаем, Ларри», — сказала она. — «Но благодаря роботам, занимающимся обслуживанием, мы сможем поддерживать достаточную чистоту каналов и фильтров, чтобы достичь нашей цели, хотя и на более низкой гиперпространственной полосе, чем обычно».

«Главное, чтобы больше ничего не вышло из строя», — сказал Ларри. — «Без серьёзных коррекций курса, без незапланированных гравитационных волн в Глубоком Переходе. Без значительных перенастроек или перекалибровок».

«Ты способен управлять кораблём».

«Я не штурман», — сказал Ларри.

«Ты всё ещё способен учиться и управлять оборудованием, с которым я не могу или не имею права работать».

«Но если бы я умер», — сказал Ларри. «Ты бы попыталась взять управление на себя?»

«Я...»

Селия замерла.

«Я не могу дать такую оценку».

* * *

Дата: 31 января 134 года НЭ

Статус: Уровень угрозы миссии 0.4.0

Оценка опасности:

Пациент №0 полностью восстановился физически, однако его психическое состояние ухудшается, что приводит к апатии и ошибкам в поддержании курса корабля.

Боевой дух: почти отсутствует и продолжает падать. Единственный человек на борту, необходимый для успеха миссии, страдает от одиночества.

«Ларри?» — позвала Селия.

«Что ещё?» — Ларри держался вне поля зрения видеокамеры в инженерном отсеке средней части корабля.

«Мне придётся создать ещё одного робота», — сказала она.

«Зачем это?» — спросил Ларри. «Я сказал тебе "больше никаких роботов" ещё неделю назад».

«Это было шесть дней назад».

«В любом случае, это было на прошлой неделе. Неважно, Селия».

«Мне понадобится ещё один робот для завершения миссии», — заявила Селия. «Но вы должны снять свой мораторий».

«Ты оставишь меня в покое после этого?»

«Я не буду приставать к тебе с просьбами создать больше роботов», — пообещала Селия.

«Ладно, только оставь меня в покое».

«Селия?» – позвал Ларри.

«Да, Ларри?»

«Этот новый робот отнимает много ресурсов компьютера», — сказал он. «Что именно ты строишь?»

Анализ: Ларри обеспокоен тем, сколько ресурсов CPU и GPU я использую.

Анализ: Ларри в любой момент может решить прекратить производство.

«Это новый дизайн робота», — сказала она. «Его способности манипулировать объектами и передвижение значительно лучше по сравнению с колёсными конструкциями. Это улучшит наше взаимодействие и помощь в задачах, важных для людей».

«Уже пытаешься забрать у меня работу?» — спросил Ларри, его голос был слегка невнятным, как будто он немного выпил.

«Конечно нет, Ларри».

«Хм. Ладно».