Хронология событий, связанных с теорией информации, сжатием данных, кодами коррекции ошибок и смежных дисциплин:
1872 — Людвиг Больцман представляет свою H-теорема, а вместе с этим формулу Σpi log pi для энтропии одной частицы газа.
1878 — Джозайя Уиллард Гиббс, определяет энтропию Гиббса: вероятности в формуле энтропии теперь взяты как вероятности состояния целой системы.
1924 — Гарри Найквист рассуждает о квантификации «Интеллекта» и скорости, на которой это может быть передано системой коммуникации.
1927 — Джон фон Нейман определяет фон Неймановскую энтропию, расширяя Гиббсовскую энтропию в квантовой механике.
1928 — Ральф Хартли представляет Формулу Хартли, как логарифм числа возможных сообщений, с информацией, передаваемой, когда приемник (получатель, ресивер) может отличить одну последовательность символов от любой другой (независимо от любого связанного значения).
1929 — Лео Сцилард анализирует Демон Максвелла, показывают, как двигатель Szilard может иногда преобразовывать информацию в извлечение полезной работы.
1940 — Алан Тьюринг представляет deciban как единицу измерения информации в немецкой машине Энигма с настройками, зашифрованными процессом Banburismus.
1944 — теория информации Клод Шеннона в основном завершена.
1946 — Ричард Хемминг представляет Код Хемминга для обнаружения ошибок и их исправления.
1948 — Клод Шеннон публикует Математическую теорию связи
1949 — Клод Шеннон публикует Передачу Информации в виде шумов — пример теорема Найквиста — Шеннона и закон Шеннон-Хартлей.
1949 — Рассекречена Теория конфиденциальности систем коммуникации Клода Шеннона.
1949 — Дж. Голей вводит коды Голея для исправления ошибок методом упреждения.
1950 — Ричард Хемминг вводит коды Хемминга для исправления ошибок методом упреждения.
1951 — Дэвид Хаффман изобретает кодирование Хаффмана, метод нахождения оптимальных Префиксных кодов для сжатия данных без потерь.
1951 — Соломон Кульбак и Ричард Леиблер вводят понятие расхождения Кульбака-Леиблера.
1954 — Ирвинг С. Рид и Д.E. Мюллер вводит коды Рида-Мюллера.
1955 — Питер Элиас вводит свёрточные коды.
1957 — Юджин Прандж первый обсуждает циклический избыточный код.
1959 — Радж Чандра Боуз и Двайджендра Камар Рей-Чоудхури, и самостоятельно в следующем году Алексис Хоквингем, представляют коды Боуза-Чоудхури-Хоквингема (БЧХ-коды).
1960 — Ирвинг С. Рид и Густав Соломон вводят коды Рида-Соломона.
1962 — Роберт Галлагер предлагает код с малой плотностью проверок на чётность; их не использовали в течение 30 лет из-за технических ограничений.
1967 — Эндрю Витерби открывает алгоритм Витерби, делающий возможным декодирование свёрточных кодов.
1968 — Элвин Берклекамп изобретает алгоритм Берлекэмпа — Мэсси; его применение к расшифровке БЧХ-кодов и кода Рида-Соломона, указанный Джеймсом Мэсси в последующем году.
1968 — Крис Уоллис и Дэвид М. Бутон издают первый из многих докладов о Сообщениях минимальной длины (СМД) — их статистический и индуктивный вывод.
1973 — Дэвид Слепиан и Джек Уолф открывают и доказывают код Слепиан-Уольфа, кодирующего пределы распределенного источника кодирования.
1977 — Джома Райссанен патентует арифметическое кодирование для IBM.
1977 — Абрахамом Лемпель и Якоб Зив развивают алгоритм сжатия Лемпеля-Зива (LZ77)
1982 — Готфилд Андебоэк создает Trellis-модуляцию, поднимая скорость аналогового модема старой обычной телефонной службы от 9.6 кбит/сек до 36 кбит/сек.
1989 — Фил Катз создает .zip формат, включая формат сжатия DEFLATE (LZ77 + Huffman кодирование); позже это становится наиболее широко используемым алгоритмом сжатия без потерь.
1993 — Клод Берроу , Алэйн Главиукс и П.Ситимашимой вводят понятие Турбо-кодов.
1993 — Майкл Барроуз и Дэвид Уилер публикуют теорию преобразования Барроуза-Уилера, которая далее найдет свое применение в bzip2.
Вклад отечественных ученных в теорию информации
Понятие марковской цепи принадлежит русскому математику А. А. Маркову, чьи первые статьи по этому вопросу при решении лингвистических проблем были опубликованы в 1906—1908
1933 — Академиком В. А. Котельниковым в была доказана знаменитая теорема отсчетов.
1947 — В. А. Котельниковым создана теория потенциальной помехоустойчивости. Теория потенциальной помехоустойчивости давала возможность синтеза оптимальных устройств обработки любых сигналов в присутствии помех. Она имела два раздела — теория приема дискретных и аналоговых сигналов.
1948—1949 — Основы Информационной теории были заложены американским ученым Клодом Шенноном . В её теоретические разделы внесен вклад советским учеными А. Н. Колмогоровым и А. Я. Хинчиным, а в разделы, соприкасающиеся с применениями, — В. А. Котельниковым, А. А. Харкевичем и др.
1950 — При сравнении конкретных кодов с оптимальными широко используются результаты Р. Р. Варшамова. Интересные новые границы для возможностей исправления ошибок установлены В. И. Левенштейном и В. М. Сидельниковым.
1956 — Были нужны работы математического уровня, закладывающие математический фундамент теории информации. Задача была решена известным докладом А. Н. Колмогорова на сессии АН СССР, посвященной автоматизации производства. Первые пионерские работы А. Я. Хинчина были посвящены доказательству основных теорем теории информации для дискретного случая.
1957 — при исследовании А. Н. Колмогоровым знаменитой проблемы Гильберта о суперпозициях он не только показал возможность представления любой непрерывной функции в виде суперпозиции непрерывных же функций трех переменных, но и создал метод, позволивший его ученику В. И. Арнольду понизить число переменных до двух и тем самым решить упомянутую проблему.
1958 — А. Н. Колмогоров. Новый метрический инвариант транзитивных динамических систем и автоморфизмов пространств Лебега.— ДАН СССР. Очень важные и плодотворные возможности применения понятия энтропии к проблеме изоморфизма динамических систем.
1958 — Доклад И. М. Гелъфанда, А. Н. Колмогоровым, А. М. Яглома «Количество информации и энтропия для непрерывных распределений».— В кн.: Тр. III Бсесоюз.мат. съезда. М.: Изд-во АН СССР.
Отметим также работы китайского ученого Ху Го Дина, стажировавшегося в то время в Московском университете.
1961 — Ху Го Дин. Три обратные теоремы к теореме Шеинона в теории информации.
1962 — Ху Го Дин. Об информационной устойчивости последовательности каналов. Теория вероятностей и её применения.
1965 — вышел первый номер журнала «Проблемы передачи информации», созданного по инициативе А. А. Харкевича.
1966 — Стратонович Р. Л., Гришанин Б. А. « Ценность информации при невозможности прямого наблюдения оцениваемой случайной величины».
1968 — Стратонович Р. Л., Гришанин Б. А. «Игровые задачи с ограничениями информационного типа».
В конце 1960-x Разработана Теория Вапника-Червоненкиса, статистическая теория восстановления зависимостей, разработанная В. Н. Вапником и А. Я. Червоненкисом
1972 — Солев В. Н. О среднем на единицу времени количестве информации, содержащейся в одном гауссовском стационарном процессе относительно другого.
Источник: ru./wiki/Хронология_развития_теории_информации
Другие работы по теме:
Свойства пространства и времени
Хроноло́гия , от греческого «хронос» — время и «логос» — учение. Понимается в двух смыслах: наука о времени и его измерении; научно восстановленная последовательность исторических событий и их временная протяжённость;
Таблица Развитие психологии в рамках философии
Таблица 1. Развитие психологии в рамках философии ХРОНОЛОГИЯ ПРЕДМЕТ ИЗУЧЕНИЯ ВАЖНЕЙШИЕ ИТОГИ 6 век до нашей эры – 5 век нашей эры Душа Формирование двух направлений – материализма и идеализма, - в объяснении происхождения и проявлений души. Первые эмпирические знания о психических явлениях и процессах – ощущении (восприятии), памяти, воображении, мышлении, аффектах, воле, характере, особых состояниях (сон, экстаз).
Хронология открытий в физике электричества
Ученый Открытие 1600 У. Гилберт Заложены основы электро и магнитостатики 1733 Ш. Дюфе Открытие двух видов электричества, установление притяжения разноименных зарядов и отталкивания одноименных
Онфим
Введение 1 Хронология 2 Онфим-ученик 3 Онфим-художник Список литературы Введение Онфим (народная версия греческого имени Анфимий) — новгородский мальчик XIII века, автор берестяных грамот и рисунков. Всего почерком Онфима написано 12 грамот: № 199—210 и 331, а кроме того, ему принадлежат несколько берестяных рисунков, не пронумерованных как грамоты, так как они не содержат текста.
Галло
Введение 1 Генетическая классификация и хронология 2 Характеристика 3 Примеры 3.1 Образец текста на галло с обильной диакритикой 3.2 Сравнительная лексика
Гелиакический восход
(др.-греч. ἡλιακός — солнечный) — первый после некоторого периода невидимости восход небесного светила (звезды или планеты) непосредственно перед восходом Солнца: «восход в лучах утренней зари».
Список верховных королей Ирландии
Введение 1 Короли в «Видении Конна» (Baile Chuind) 2 Сводные списки 2.1 Древнейшие правители Ирландии 2.2 Верховные короли Фир Болг 2.3 Верховные короли Племён богини Дану
Валдай клуб
Введение 1 Задачи клуба 2 Хронология 2.1 2004 2.2 2005 2.3 2006 2.4 2007 2.5 2008 3 Оценки Список литературы Введение Международный дискуссионный клуб «Валдай» — периодическое собрание известных экспертов, специализирующихся на изучении внешней и внутренней политики России. Клуб был создан в сентябре 2004 года по инициативе агентства «РИА Новости», Совета по внешней и оборонной политике (СВОП), газеты «The Moscow Times», журналов «Россия в глобальной политике» и «Russia Profile».
Рисорджименто
Введение 1 Термин 2 Идеология 3 Хронология 5 Библиография Рисорджименто Введение Рисорджименто (итал. il risorgimento — возрождение, обновление) — историографический термин, обозначающий период борьбы за политическое объединение Италии.
Революционные ячейки Греция
Революционные ячейки (греч. Επαναστατικοί Πυρήνες, англ. Revolutionary Nuclei) — небольшая греческая леворадикальная организация основанная в 1995 г. Ранее носила название «
Миланский эдикт
Введение 1 Хронология 2 План Введение Список литературы Введение Миланский эдикт (лат. Edictum Mediolanensium) — письмо императоров Константина и Лициния, провозглашавшее религиозную терпимость на территории Римской империи.[1] Миланский эдикт явился важным шагом на пути превращения христианства в официальную религию империи.
Переезд португальского двора в Бразилию
Введение 1 Планы 2 Хронология 3 Жизнь на новом месте 4 Последствия переезда Введение Переезд португальского двора в Бразилию (29 ноября 1808 — 26 апреля 1821; порт. Transferкncia da corte portuguesa para o Brasil) стал следствием Наполеоновской агрессии в ходе так называемый Пиренейских войн начала ХIХ века.
Список советских компьютерных систем
Введение 1 1950-е — начало 1970-х 2 Конец 1970-х — начало 1990-х 3 Хронология 4 Организации список разработанных в СССР компьютерных систем . Кроме того, в список включены системы, разработанные странами-участниками СЭВ в рамках программ сотрудничества.
Археология Американского континента
Введение 1 Хронология 2 Археология по странам 2.1 Северная Америка 2.1.1 Музеи 2.1.2 Организации 2.2 Центральная Америка и Вест-Индия 2.3 Южная Америка
Массовое убийство на военной базе Форт-Блисс
Введение 1 Причины 2 Хронология массового убийства 3 Дальнейшие события Список литературы Введение Массовое убийство на военной базе Форт-Блисс — преступление, совершённое 20 сентября 2010 года человеком, личность которого пока официально не объявлена. В результате происшествия погиб он сам и ещё две женщины, а также один человек получил ранения.
Лунный календарь
Введение 1 Теория календаря 3 Лунные календари 4 Интересные факты Введение Лунный календарь — разновидность календаря, в основе которого лежит период смены фаз Луны, т. е. синодический месяц.
Бархатный развод
Введение 1 От предыстории к постистории 2 Хронология событий Список литературы Введение Бархатный развод (чеш. sametovэ rozvod) — мирный и официально узаконенный распад союзного государства Чехословакии. Бархатный развод 1 января 1993 г. был логической развязкой т. н. бархатной революции, в ходе которой социалистический режим и плановую экономику сменили демократия и рыночная экономика.
Вавилонский плен
Введение 1 Вавилонское изгнание и персидское господство 1.1 Вавилонский плен 1.2 Правление Кира Великого 1.3 Хронология 1.3.1 Исторические гипотезы о событиях Пурима
Восстание амурских казаков
Антисоветское восстание амурских казаков произошло в 1924 году. Хронология событий Январь 1924, СССР, Амурская область — восстание под руководством генерала Алексеева и полковника Метелицы. Повстанцы — свыше 4 тысяч человек, Центром восстания была станица Тамбовка, казаки убили местных партийных работников.
Риттер, Карл дипломат
Карл Ри́ттер (нем. Karl Ritter; 5 июня 1883 года, Дёрфларас, Верхняя Франкония — 31 июля 1968 года, Мурнау, Верхняя Бавария, ФРГ) — дипломат, руководящий сотрудник Имперского министерства иностранных дел Германии.
Крестьянская война в Эстонии 1343 1345
План Введение 1 Хронология 2 Предпосылки 3 Сражения 4 Потери сторон 5 Последствия Введение Крестьянская война в Эстонии (23 апреля 1343 — февраль 1345) — эстонское национально-освободительное движение 1343—1345 годов за освобождение страны от германско-датского ига. Началось 23 апреля 1343 года с восстания Юрьевой ночи (Шаблон:Lang est).
Дионисий Малый
Дионисий Малый , Дени Малый (первая половина VI в.) — римский аббат, скиф или гето-дак по происхождению, основоположник летосчисления от рождества Христова (или от начала нашей эры). По поручению папы римского Иоанна I в 525 г. составлял пасхальные таблицы. Отказавшись от тогдашнего летосчисления, начинавшегося от первого года правления жестокого гонителя христиан римского императора Диоклетиана, предложил новую систему счёта годов.
История Нагорно-Карабахской Республики
Наго́рно-Караба́хская Респу́блика — провозглашённое в 1991 году непризнанное государство в Закавказье. Хронология 2 сентября 1991 года на совместной сессии Нагорно-Карабахского областного и Шаумяновского районного Советов народных депутатов было провозглашено образование Нагорно-Карабахской Республики в составе СССР в границах Нагорно-Карабахской автономной области и Шаумяновского района, населённых преимущественно армянами.
Алжиро-марокканский пограничный конфликт
План Введение 1 Предпосылки конфликта 2 Хронология конфликта Список литературы Алжиро-марокканский пограничный конфликт Введение Алжи́ро-марокка́нский пограни́чный конфли́кт — военный конфликт, произошедший между Марокко и Алжиром осенью 1963 года.
Новая хронология
Но́вая хроноло́гия — название ряда теорий, пересматривающих существующую хронологию исторических событий. Основные значения Новая хронология — псевдонаучная[1][2][3][4][5][6][7][8][9][10] теория Анатолия Фоменко.
Революция 1848 1849 годов в Чехии
План Введение 1 Причины и задачи революции 2 Хронология револции Список литературы Введение Революция 1848—1849 гг. в Чехии — буржуазно-демократическая революция в Чехии, одна из европейских революций 1848—1849 гг.
Сейм Латвии
План Введение 1 Хронология созывов 2 Результаты последних выборов (2010) 3 Результаты предпоследних выборов (2006) 4 Состав Сейма по фракциям (ноябрь 2010)
Русь Московская
Обьединение русских княжеств. Правление Ивана Калиты. Усиление Москвы. Хронология княжения.
Кикладская цивилизация
Введение 1 Хронология Список литературы Кикладская цивилизация Введение Кикладская цивилизация, археологическая культура бронзового века, распространённая в 3—2 тысячелетиях до н. э. на островах Киклады. Первые поселения человека на островах относятся ко времени среднего (Мавроспилия на Миконосе) и позднего неолита (Салиагос между Паросом и Антипаросом), то есть к 5—4 тысячелетиям до н. э.
Доколумбова хронология Перу
и Андского региона в настоящее время основана на классификации, которую предложил Эдвард Лэннинг. Альтернативную систему датировки предложил Луис Лумбрерас, который иначе датирует некоторые археологические находки. Большинство культур Позднего горизонта и некоторые культуры Позднего промежуточного периода были включены в состав инкской империи к 1493 г., однако окончание периода датируется 1534 г., датой крушения Империи инков в результате испанского завоевания.
Лунно-солнечный календарь
План Введение 1 Теория календаря 2 Лунно-солнечные календари Введение 1. Теория календаря Продолжительность синодического месяца в среднем составляет 29,53059 суток, а тропический год - из 365,24220 дней. Т. о., один тропический год содержит в себе 12,36827 синодических месяцев. Значит, календарный год может состоять или из 12 (обычный год), или из 13 (эмболисмический год; др.-греч. ἐμβολή — вторжение) календарных месяцев, причем месяцы в году чередуются, чтобы дни месяца как можно лучше попадали на одни и те же фазы Луны.
Периоды истории Японии
Специалисты ещё не пришли к единому мнению относительно точных дат периодизации, приведенной ниже. Эта хронология взята из Онуки (Ohnuki), 1987.