A ideia de criar um serviço de passageiros que ligasse a Europa ocidental ao Sudeste surgiu de Georges Nagelmackers, criador da francesa "Compagnie Internationale des Wagon-Lits". Esta companhia criada em 1872, tinha sido a primeira a primeira da Europa a introduzir vagões-dormitórios e vagões-restaurante nas composições, a ideia que já tinha sido colocada em prática nos Estados Unidos por George Pullman.
Em 4 de Outubro de 1883, a companhia inaugurou então o Express d'Orient. Na época o trem saía duas vezes na semana da estação Grade de I'Est, em Paris, França, e terminava na cidade de Giurgu, na Romênia, passando por Estrasburgo,Munique,Viena,Budapeste e Bucareste. De Giurgu, os passageiros eram transportados através do Rio Banúbio para a cidade de Ruse, na Bulgária. Daí havia outro trem que os levaria até Varna, onde poderiam tomar um "ferry" para Istambul.
Em 1885 o Express d'Orient já contava com saídas diárias de Paris até Viena. De lá, além de saídas semanais até Giurgiu, criou-se uma alternativa, que saia de Viena até Nis, na Iugoslávia (atual Sérvia), passando pela capital Belgrado. De Nis, como as ferrovias de Bulgaria que estavam incompletas, os passageiros cruzavam fronteiras usando carruagens, sendo levados até a cidade de Plovdiv, de onde tomavam outro trem até Istambul.
Em 1889 a linha é finalmente completa até Istambul. Nessa época, o serviço diário de Paris passou a ir até Istambul, passando por Belgrado, Sofia. Ainda em Budapeste, uma vez por semana o trem ia até Constanta, no Mar Negro, passando por Bucareste.
Em 1891 o trem foi oficialmente batizado de Orient Express.
Em 1914, na primeira Gerra Mundial, o serviço do Orient Express foi interrompido. As operações voltaram ao normal em 1918. Em 1919 foi inaugurado "Túnel do Sinplon", ligado a Suíça à Itália, possibilitando uma rota alternativa para Istambul. Então foi inaugurado o serviço "Sinplon Orient Express",que passarva por Lausanne,Milão,Veneza,Trieste e Zagreb, se guntando à rota original em Belgrado. Uma das características desse novo consistia com o fato de que a Alemanha era evitada. Uma das clàusulas de Tratado de Saint-Germany-en-Laye definia que a Austrália deveria permitir que os trens passarem por Trieste, haja vista que antes os trens internacionais, quando estivessem em território austríaco, tinham obrigação por passar por Viena. O "Simplon Orient Express" logo provou ser a rota mais visada de todo o serviço.
Nos anos 1930, o Orient Express atingiu o seu ponto máximo, com três serviços na Europa: o Orient Express original, o "Simplon Orient Express", e o novo "Alberg Orient Express". Este seguia a Paris a Budapeste passando por Zurique e Innbruck, com tanto para Bucareste como Atenas. Nessa época Londres já era servida pelo "Simplon Orient Express". Os passageiros eram levados por trens da "British Soutern Railway" da estação Victoria até Dover, de onde tomavam um "ferry" para Calais. A partir daí eles seguiam de trem até a estação Gare de Lyon, em Paris, onde os vagões onde eram acopolados pela "Simplon Orient Express". Foi dessa época que o Orient Express adiquiriu a sua fama de trem luxuoso, prestando um serviço de primeira linha para seus passageiros, que incluíam membros da realeza , diplomatas, milionários, etc...
Mais uma vez na Segunda Gerra Mundial os serviços foram interrompidos. Durante esse período, a companhia alemã "Mitropa" tentou implementar o seu próprio Orient Express, mas não teve muita fama devido a sabotagens nos trilhos que causavam por rebeldes. Apenas em 1945 (quando a gerra acabou no dia 2 de setembro de 1945) tudo foi normalizado, exceto o ramal de Atenas, que tinha sido fechado na fronteira entre a Iugoslávia e a Grécia. O trecho foi reaberto 1951, mas logo após outro obstáculo surgiu: a fronteira com a Bulgária com a Turquia foi fechada entre 1951 e 1952, bloqueando o caminha para Istambul. Com a cortina de ferro, muitos países do leste Europeu resolveram cortar os vagões da Wagon Lits pelos de suas proprias companhias, causando uma considerável queda na qualidade de serviço. Em 1960,o trecho complementar do "Simplon Orient Express" até Calais é retirado, sendo dissubstituído pelo "Golden Arrow"
Em 1962 tanto a rota original do Orient Express quanto o "Alberg Orient Express" foram colocados em fora de circulação deixando apenas o "Simplon Orient Express". No mesmo ano este também foi retirado, sendo substituído por um serviço mais lento, chamado de "Direct Orient Express". Ele contava com saídas diárias par Belgrado, de onde ia para Stambul e duas vezes por semana em Atenas
Em 1971, a Wagon Lits decide atuar apenas na prestação de serviços nos trens, vendendo ou alugando seus vagões para várias companhias Europeias. Em 1976 o serviço Paris-Atenas é tirado completo.
Em 1977 o serviço "Direct Orient Express" é retirado de circulação.
Apesar de boatos em que o Orient Express teria terminado parte de sua rota original é reativada, num serviço sob o nome original de Orient Express.
Em 1933 a autora Agatha Cristie publicou um de seus livros de sucesso chamado "The Murder on the Orient Express", com o personagem Ercule Poirot.