Дворец построен по приказу Марии Медичи. После смерти Генриха IV в 1610 году его вдова Мария Медичи больше не хотела жить в Лувре. Мария решила построить собственный дворец, похожий на Палаццо Питти во Флоренции, откуда она родом и провела свое детство. В 1612 году Мария купила особняк герцога Люксембургского Франса и несколько построек вокруг него. В 1615 году строительство возглавил ее архитектор Саломон де Брос. В 1621 году Питер Пауль Рубенс получил заказ на создание 24 больших аллегорических картин на тему жизни королевы. Эти полотна сейчас висят в Galerie Médicis в Лувре.

Мария переехала во дворец в 1625 году, но ее пребывание было недолгим, поскольку она яростно выступала против политики кардинала Ришелье, который фактически был главой правительства. Заговорщики были арестованы, а Мария была сослана в Компьень в 1630 году. Затем она отправилась в Брюссель, Амстердам и, наконец, в Кельн, где умерла в 1642 году. Дворец вернул себе название «Люксембург» и оставался собственностью короны до Французской революции.

Во время революции дворец использовался как тюрьма, а в 1790 году сады были расширены до конца проспекта Обсерватория. Со временем люксембургский дворец стал местом встречи нескольких парламентских ассамблей: Дирекции, Консула, Палаты пар и Сена.

Жан-Франсуа Шальгрен кардинально изменил интерьер. Между 1836 и 1841 годами Альфонс де Жизор расширил дворец со стороны сада, добавив новый фасадный выступ и два боковых павильона, все в стиле оригинального здания.