En 1923, la municipalité envisage de déplacer le marché, qui se tient alors sur la rive gauche et la rive droite de la Saône sur les quais Saint-Antoine et de la Bibliothèque, pour améliorer les conditions de travail d'une part et dégager le centre ville d'autre part. Un premier devis est établi en 1928. En 1938, plusieurs emplacements sont envisagés : les chantiers de la Buire, le marché aux bestiaux de Vaise, les casernes de la Part-Dieu ; enfin, la pointe sud de la presqu´île, à l'emplacement de l'ancienne gare d'eau de Perrache, est retenue. Au cours de la séance du Conseil municipal du 17 octobre 1938, la Ville de Lyon décide de procéder à la création d'un marché régional d'approvisionnement. La question de l'adjonction au marché de gros d'un centre de réexpédition est à l'étude sous la direction du préfet et serait confié aux Chambres d'Agriculture et tous autres organismes ou collectivités intéressés. Pour marquer l'intérêt qu'il attache au développement du commerce des fruits et primeurs, le maire offre, à titre de contribution financière de la Ville, de mettre à la disposition des Chambres d'Agriculture le terrain qui leur est nécessaire. Mais la crise économique de 1930 et la Seconde Guerre mondiale font tomber le projet de transfert dans l'oubli. Vers 1945, le chiffre des expéditions et exportations du commerce de gros de fruits et légumes baisse dans d'assez fortes proportions depuis que certains pays comme l'Italie font un effort considérable en vue d'intensifier dans ce domaine la production et la vente à l'étranger. D'ailleurs, la création d'un marché-gare à Lyon répond à un double objet : d'une part, l'approvisionnement de la localité qui compte une population de 800 000 habitants (Lyon et banlieue immédiate), et plus d'un million si l'on tient compte de la région avoisinante dans un rayon de 50 kms ; d'autre part, le réassortiment d 'un certain nombre de villes des départements voisins et l'exportation vers les pays de l'Est (Allemagne, Suisse, Europe centrale). En effet, Lyon se trouve au centre d'une région importante de production de fruits et légumes situés principalement au sud et à l'ouest de la ville, mais aussi à l'ouest de la Bresse (plaine de l'Isère, région productrice de lait ; beurre, oeufs, volailles, veaux et porcs), et enfin à proximité de régions d'élevage (Charolais et Auvergne (bovins), Alpes (ovins)). En 1942, un rapport prévoit que le marché-gare de Lyon "est appelé à tirer une activité particulière au titre de la réexpédition des denrées produites dans ces différentes régions" et que "les entrepôts frigorifiques lyonnais constitueront indépendamment de la gare-marché un facteur de régularité pour l'écoulement et le commerce des denrées", mais précise que "le commerce des viandes est d'ores et déjà organisé à Lyon aux Abattoirs de la Mouche lesquels sont reliés à la gare de Lyon-Guillotière par un embranchement particulier". Il faut cependant attendre le 6 avril 1951 pour que le Conseil municipal (Edouard Herriot étant maire) adopte un avant-projet, sur une base beaucoup plus large qu'en 1938. Grâce à la déclaration d'utilité publique, le financement est obtenu en 1952 et le 17 janvier 1955, le projet définitif est adopté. En 1954, l'établissement de l'autoroute parallèle au quai Perrache dite "axe nord-sud" permet de considérer le quai Perrache comme une voie de desserte du marché à sens unique nord-sud et le rescindement des trottoirs du quai Perrache et du cours Charlemagne, ainsi que l'utilisation de la promenade sous les arbres du quai Perrache, comme facilitant le stationnement d'environ 1000 véhicules. L'aménagement routier de la région lyonnaise permet d'envisager l'accès du marché sans passer par le centre de la ville. En outre, la gare de Lyon-Perrache 2 spécialisée dans les fruits et légumes est à proximité immédiate. Les premiers travaux débutent en 1956. Les expéditeurs demandent une desserte par voie ferrée le long de leur carreau pour assurer leurs expéditions, ce qui s´avère par la suite sans intérêt. Pierre Vida, directeur des Entrepôts frigorifiques, situés de l´autre côté du cours Charlemagne propose la fourniture du froid pour tout le marché, projet rejeté, les concessionnaires préférant leurs installations personnelles. Parallèlement, le gouvernement élabore, dans le cadre de la rénovation des circuits de distribution, le programme d'implantation des Marchés d'Intérêt national, ce qui entraîne quelques modifications dans les plans du marché, en particulier par l'implantation d'une salle de vente aux enchères demandée expressément par le ministère de l´Agriculture et le Génie rural : le carreau P3 des producteurs est donc supprimé pour laisser la place à la salle des ventes. Celle-ci, composée de deux salles de 156 pupitres dont une équipée d'un cadran longitudinal électronique (dû à la maison SAXBY) permettant des ventes simultanées entre plusieurs villes, connaît un échec cuisant : elle est en effet mal adaptée au concept du marché lyonnais où les acheteurs détaillants et grossistes préfèrent aux achats électroniques les comparaisons des marchandises présentées sur les carreaux de vente. Par ailleurs, pour répondre aux aspirations des professionnels et au principe d'autonomie de gestion des MIN, une société d'économie mixte pour la gestion du marché est créée : la Société de Gestion du Marché international de Gros de Lyon (SOGELY), devenue depuis la Société de Gestion du Marché d'Intérêt national de Lyon. Le 9 mai 1961, le marché ouvre ses portes et obtient le 5 janvier 1966, après cinq années de fonctionnement, son classement comme Marché d'Intérêt national, différé jusque-là du fait d'un désaccord entre la direction du marché et les représentants agricoles. Le marché-gare est le premier du genre construit en France. Lors de l'ouverture du marché, le bureau de poste est une annexe ; il devient bureau de plein exercice le 1er avril 1962 sous le nom de Lyon-Presqu'île. La salle des ventes est terminée en 1963.
Le MIN s'étend sur une zone de 16 ha, avec une zone de 4 ha réservée à son extension. Louis Weckerlin, architecte, conçoit des bâtiments fonctionnels en les disposant de manière à faciliter les manutentions mais aussi le nettoyage, problème crucial des marchés. A l'intérieur du marché, les circulations principales en direction nord-sud sont étudiées de telle sorte que toutes les grandes artères longitudinales soient à sens unique et que tous les changements de direction se fassent à main droite de façon à ne provoquer aucun cisaillement. Le marché a été conçu comme un ensemble polyvalent devant permettre aux revendeurs lyonnais de se réapprovisionner en tous les produits essentiels en même temps qu'ils viennent acheter leurs fruits et légumes. Seule restriction : au moment de la conception, les allées sont faites pour de gros porteurs à 6 roues. Or, 30 ans après, ceux-ci sont remplacés par des semi-remorques. Rungis, qui n´ouvre ses portes qu´en 1968, intègre cette extension imprévisible en 1955.
En 1967, l'activité des fruits et légumes est prédominante ; elle occupe les bâtiments C1 à C6 qui bordent l'allée principale. Là se trouvent les 120 magasins de grossistes répartis entre 87 entreprises (1, 2 ou 3 magasins par entreprise). Le bâtiment R avait été prévu pour les réexpéditions avec un quai routier et un quai ferré, mais il est essentiellement utilisé pour l'entreposage. Le carreau des producteurs occupe 1ha 25 le long du cours Charlemagne et comprend 208 emplacements couverts de 7,5m2, répartis en 4 bâtiments. En septembre 1964, les horticulteurs puis les négociants en fleurs coupées sont installés sur les quais routiers prévus initialement pour les opérations de transit, QR1 nord (40 emplacements) et QR2 (65 emplacements). De l'autre côté de l'allée centrale, les bâtiments D1 à D3 abritent les grossistes en produits laitiers, volailles, salaisons, poissons, coquillages, produits surgelés, plats cuisinés, épicerie sèche, vins et spiritueux, etc.