9 сентября 1947: день, когда компьютерный «баг» оказался настоящим мотыльком

Один мотылёк в реле Harvard Mark II оставил цифровой индустрии метафору, а медицине — важный урок о цене ошибок

15:45. Реле № 70, панель F

Кембридж, Массачусетс. 9 сентября 1947 года.

В Гарварде работает Harvard Mark II — огромная электромеханическая вычислительная машина, созданная под руководством математика и инженера Говарда Эйкена (Howard Aiken) для Военно-морских сил США. До персональных компьютеров остаются десятилетия. Микропроцессоров ещё нет. Даже транзистор только появляется.

Вычисления выполняет машина, в которой тысячи электромеханических реле физически переключаются, замыкая и размыкая электрические цепи.

В рабочем журнале этого дня одна за другой идут обычные технические записи: тесты, остановки, проверки реле.

А затем появляется запись на 15:45:

«Relay #70 Panel F».

Рядом приклеено небольшое насекомое.

Под ним — фраза, которой предстоит пережить сам компьютер:

«First actual case of bug being found.»

На этот раз «баг» действительно оказался живым существом.

Мотылёк, который остановил вычисление

Согласно материалам Computer History Museum, мотылёк оказался между контактами одного из реле Harvard Mark II. Его извлекли, после чего насекомое приклеили к странице журнала.

Эта страница сохранилась.

Сегодня оригинальный журнал с мотыльком находится в коллекции Национального музея американской истории Смитсоновского института (Smithsonian National Museum of American History).

Именно физическая сохранность артефакта делает историю почти идеальной для технологической мифологии. Мы можем увидеть не реконструкцию и не позднюю иллюстрацию, а сам объект: пожелтевшую страницу журнала, кусочки клейкой ленты и мотылька, который попал внутрь вычислительной машины почти восемь десятилетий назад.

Но самая интересная часть этой истории начинается именно там, где заканчивается красивая легенда.

Грейс Хоппер не придумала слово bug

История Harvard Mark II почти неизбежно связывается с Грейс Хоппер (Grace Hopper) — одной из ключевых фигур раннего программирования, впоследствии контр-адмиралом ВМС США.

Хоппер действительно работала с Harvard Mark II и позднее неоднократно рассказывала историю о мотыльке на публичных выступлениях, благодаря чему эпизод стал знаменитым.

Но популярная версия, согласно которой именно Хоппер обнаружила насекомое и тем самым придумала термин computer bug, слишком красива, чтобы быть точной.

Смитсоновский институт осторожно указывает, что журнал, вероятно, вообще не принадлежал Хоппер лично. Computer History Museum говорит о команде инженеров и специалистов, обнаруживших мотылька. Кто именно первым увидел насекомое, для исторического смысла эпизода гораздо менее важно, чем то, что произошло с языком после него.

И есть ещё одна деталь.

Слово bug означало техническую неисправность задолго до появления компьютеров.

Компьютерный «баг» старше компьютера примерно на семьдесят лет

Уже в XIX веке инженеры употребляли bug применительно к дефектам и непредвиденным проблемам в устройствах.

Томас Эдисон (Thomas Edison) использовал это слово в своих записях и переписке в 1870-х годах. В письме 1878 года он объяснял, что после первоначальной идеи изобретатель неизбежно сталкивается с «bugs» — мелкими неисправностями и трудностями, устранение которых требует месяцев наблюдений, исследований и работы.

То есть инженеры Harvard Mark II не назвали неисправность «багом» потому, что нашли мотылька.

Всё было наоборот.

Они уже называли технические неисправности багами — и поэтому обнаружение настоящего насекомого внутри неисправной машины оказалось настолько смешным, что его приклеили к журналу.

Именно поэтому запись сформулирована так точно:

«First actual case of bug being found.»

Не «мы придумали слово bug».

А первый случай, когда инженерная метафора буквально материализовалась внутри машины.

Из шутки инженеров вырос язык цифрового мира

Сам мотылёк не создал программирование и не изменил архитектуру компьютеров. Было бы преувеличением утверждать, что событие 9 сентября 1947 года непосредственно породило современное понятие программной ошибки.

Но история оказалась исключительно живучей.

Bug стал универсальным обозначением дефекта программного обеспечения или технической системы. Отладка (debugging) — процесс поиска, локализации и устранения таких ошибок — превратился в повседневную работу миллионов разработчиков.

При этом особенно символично, что знаменитый «компьютерный баг» был не программным.

Это была физическая неисправность аппаратуры.

В 1947 году граница между программой и машиной ощущалась совсем иначе, чем сегодня: вычисление зависело от механических контактов, проводов, реле, перфоленты и поведения физических компонентов.

Спустя почти восемь десятилетий системы стали несравнимо сложнее, но фундаментальная проблема осталась прежней.

Сложная технология может вести себя не так, как предполагал её создатель.

Когда ошибка перестала быть просто технической проблемой

Для фармацевтической и медицинской аудитории история мотылька становится интереснее именно сейчас.

Современная медицина всё больше существует внутри программно-аппаратных систем.

Программное обеспечение управляет или участвует в работе медицинского оборудования, лабораторных анализаторов, инфузионных систем, систем лучевой терапии, электронных медицинских карт и алгоритмов поддержки врачебных решений.

Программный код используется при обработке изображений КТ и МРТ, анализе геномных данных, фармаконадзоре, планировании клинических исследований и статистической обработке результатов.

Фармацевтическая компания XXI века также всё меньше похожа на исключительно химическое производство.

Разработка лекарств зависит от биоинформатики и вычислительной биологии. Клинические исследования используют электронный сбор данных. Производство опирается на автоматизированные системы. Дистрибуция — на цифровое управление запасами и прослеживаемость. Аптечная сеть — на информационные системы, электронные рецепты, кассовое программное обеспечение и алгоритмы управления ассортиментом.

Поэтому современный bug способен перемещаться далеко за пределы экрана компьютера.

Ошибка в программе может стать ошибкой данных.

Ошибка данных — неправильным решением.

А неправильное решение в здравоохранении иногда касается уже не производительности системы, а здоровья человека.

Самая важная часть отладки — понять, что система может ошибаться

История Harvard Mark II напоминает ещё об одном принципе, который легко потерять в эпоху искусственного интеллекта.

Машина не обязана ошибаться так, как ожидает человек.

Причиной сбоя может оказаться код. Датчик. Электроника. Некорректные исходные данные. Ошибка интеграции между системами. Неожиданная комбинация условий. Неправильное действие пользователя.

В 1947 году это был мотылёк.

Сегодня проблема может находиться внутри миллионов строк кода или возникнуть на границе между программным обеспечением, медицинским устройством, базой данных и действиями врача.

Именно поэтому надёжность сложной медицинской технологии определяется не только тем, насколько хорошо она работает в нормальных условиях.

Не менее важно, насколько хорошо система обнаруживает собственные ошибки, позволяет проследить их источник и безопасно ведёт себя при отказе.

От Harvard Mark II до медицинского ИИ

Особенно наглядной эта параллель становится с распространением искусственного интеллекта.

Классическая программа обычно выполняет набор заданных правил. Многие современные модели машинного обучения работают иначе: они формируют результат на основании закономерностей, найденных в больших массивах данных.

Это создаёт новый класс проблем.

Ошибка может быть связана не с одной неправильной строкой программы, которую достаточно найти и исправить, а с качеством обучающих данных, смещением выборки, изменением характеристик пациентов, особенностями конкретной клиники или неожиданным поведением модели после внедрения.

Поэтому понятие debugging постепенно становится шире собственного компьютерного происхождения.

В медицине XXI века приходится проверять уже не только код.

Приходится проверять данные, модели, интерфейсы, человеческие решения и всю систему взаимодействия между ними.

Мотылёк 1947 года был заметен невооружённым глазом.

Современный «мотылёк» может быть статистическим.

Почему эта история важна сегодня

9 сентября 1947 года не было днём рождения компьютерного термина bug. И именно это делает историю интереснее популярной легенды.

Инженерный язык уже существовал. Мотылёк лишь дал старой метафоре идеальное физическое воплощение — настолько удачное, что оно пережило поколения вычислительной техники.

Для современной фармацевтической индустрии здесь есть более серьёзный урок.

Чем глубже цифровые технологии входят в разработку препаратов, клинические исследования, производство, фармаконадзор, логистику, аптечный бизнес и медицинскую практику, тем менее полезно разделение на «настоящую» работу и «IT-проблемы».

Сбой информационной системы может остановить производство. Ошибка базы данных — исказить анализ. Некорректный алгоритм — повлиять на медицинское решение. Проблема интерфейса — увеличить вероятность человеческой ошибки.

Для врачей это означает необходимость понимать ограничения цифровых инструментов, а не воспринимать результат машины как автоматически правильный.

Для пациентов — то, что безопасность современной медицины всё чаще зависит не только от качества препарата или медицинского устройства, но и от качества программной среды вокруг них.

Для фармкомпаний, дистрибуторов и аптечных сетей вывод ещё практичнее: цифровая инфраструктура давно перестала быть вспомогательной функцией бизнеса. Она стала частью качества продукта и устойчивости всей системы.

В этом смысле расстояние между Harvard Mark II и современной медициной гораздо меньше, чем кажется.

Изменились компьютеры.