Шеннон, Клод: биография

В конце войны, он подготовил секретный меморандум для Bell Labs под названием «Математическая теория криптографии», датированный сентябрем 1945 года. Эта статья была рассекречена и опубликована в 1949 году как «Теория связи в секретных системах» в Bell System Technical Journal. Не будет преувеличением сказать, что эта статья своим появлением обозначила переход криптографии из искусства в полноценную науку. Шеннон доказал, что криптосистемы одноразовых блокнотов нерушимы с криптографической точки зрения. Он также доказал, что любая криптографически нерушимая система должна иметь по существу те же характеристики, что и одноразовый блокнот: ключ должен быть выбран случайным образом, причем должен быть столь же большим как открытый текст, а также должен никогда не использоваться повторно полностью или частично, и, конечно, храниться в секрете. Теория связи и криптография развивались одновременно, и «они были так близко друг к другу, что невозможно разделить их». Шеннон объявил о своем намерении «развивать эти результаты… в предстоящем меморандуме о передаче информации».

Послевоенное время

В 1948 году обещанный меморандум появился как статья «Математическая теория связи» в двух частях, соответственно, в июле и октябре в Bell System Technical Journal. Эта работа посвящена проблеме кодирования передаваемой информации. В этой фундаментальной работе Шеннон использовал инструменты теории вероятностей, разработанные Норбертом Винером, которые находились в зарождающейся стадии относительно их применения к теории связи в то время. Также Шеннон ввел важное определение информационной энтропии как меры неопределенности информации в сообщениях. Эта статья по сути положила начало такой науке, как теория информации.

После 1948 года Шеннон провел много значимых исследований в теории информации.

Шеннон также занимался изучением теории игр. Он пытался создать всевозможные машины, которые всегда должны были следовать наиболее выигрышным стратегиям. Например, Шеннон занимался разработкой принципов построения шахматных программ (задолго то того, как такие программы начали практически реализовываться специалистами различных стран). В конце 40-х — начале 50-х годов он предложил две стратегии поиска наилучшего хода в данной позиции. Одна определяла тотальный перебор возможных ходов с построением разветвленного дерева вариантов, а вторая — использование шахматных знаний для отсечения малоперспективных вариантов.

Ещё одной сферой приложений интересов Клода Шеннона в теории игр являлась игра в рулетку. Совместно с Эдом Торпом профессором MIT, Шеннон в 1961 году создал аналоговое вычислительное устройство (размером с пачку сигарет, управляемое четырьмя кнопками для ввода информации о скорости вращения колеса рулетки), которое помогало игроку «правильно» сделать ставку. По утверждению Эда Торпа, это устройство было испытано ими в 1961 году в казино Лас Вегас, обеспечив выигрыш в 44% (при этом сам факт существования такого устройства авторы хранили в секрете до 1966 года). Некоторые (однако, далеко не все) детали этого устройства были описаны с статье, опубликованной в Review of the Statistical Institute, 1969, vol. 37:3.

В те же 50-е годы Шеннон создал машину, которая «читала мысли» при игре в «монетку»: человек загадывал «орел» или «решку», а машина отгадывала с вероятностью выше 1/2, потому что человек никак не может избежать каких-либо закономерностей, которые машина может использовать.

С 1950 по 1956 Шеннон занимался теорией игр, в том числе созданием логических машин, таким образом, продолжая начинания фон Неймана и Тьюринга. В 1952 Шеннон разработал обучаемую механическую мышку, которая могла находить выход из лабиринта. Также он реализовал шуточную машину «Ultimate Machine», другое имя которой — «Useless Machine». Идея этой машины — при переключении выключателя в положение «On», появляется «палец», который возвращает этот тумблер в первоначальное положение «Off». Дополнительно, он построил устройство, которое может собирать Кубик Рубика.

Шеннон также считается основоположником идеи сжатия информации без потерь и её распаковки. Он разрабатывал теории, которые позволяют убрать всю ненужную избыточность в сообщениях адресанта. Причем, если они отправляются через зашумленный канал, то всевозможная информация, направленная только на нахождение ошибок при передаче сообщения, может добавиться обратно к сообщению.