Cơm tấm là một món ăn xuất phát từ những người lao động nghèo, có nguồn gốc từ Sài Gòn và là món ăn thường ngày của những người phu gạo cùng khổ. Trong thời Pháp thuộc, chành gạo Bình Đông bên bờ kênh tàu hủ gần khu vực Chợ lớn (nay là Quận 6) là nơi tiếp nhận lúa gạo từ khắp các tỉnh miền Tây chuyển về. Sau mỗi ngày làm việc, phu gạo sẽ quét những hạt gạo vỡ rơi vãi (tấm) quanh máy xay xát hoặc trên sàn nhà xưởng rồi nấu lên để ăn. Lý do là bởi, hạt gạo loại này ít nở và có giá thành vô cùng rẻ nên có thể dùng trong bữa cơm hằng ngày để tiết kiệm chi phí. Nhiều tài liệu cho rằng món cơm tấm được những người Hải Nam di cư sang Việt Nam mang theo. Theo một bài viết trên tạp chí Du lịch Thành phố Hồ Chí Minh, cơm tấm vốn dành bán cho thợ thuyền vào những năm 1920. Trong khi đó, báo Tuổi trẻ thì cho biết cơm tấm dường như đã xuất hiện ở Sài Gòn từ trước năm 1945. Tuy nhiên, nhà văn Vũ Bằng lại cho rằng thời ấy "không thấy ai ăn cơm tấm" mà thay vào đó là đĩa cơm "nóng sốt, trắng tinh" được phục vụ chung với xì dầu, trứng gà và nước mỡ. Một số bài báo khác thì ghi nhận rằng trong giai đoạn đó đã xuất hiện một số hàng quán kinh doanh món ăn này, dù sở hữu những thành phần không giống nhau. Đến trước năm 1975, cơm tấm đã trở thành một thứ đồ ăn sang trọng do thói quen chi tiêu tiết kiệm của người dân.
Theo thời gian, các món phụ ăn cùng cơm tấm ngày càng trở nên đa dạng và phong nước mắm, mỡ hành phú. Ban đầu cơm chỉ được chan với ni hay dần có thêm món chả trứng, bì vụn vì chỉ bán cho người nghèo. Sau này, nhằm đáp ứng nhu cầu của những thực khách giàu có nên cơm tấm có thêm sườn nướng cùng nhiều thành phần khác. Ngoài ra, phần ăn sau đó cũng bắt đầu được phục vụ với đĩa to cũng như muỗng, nĩa tương tự như các món Tây thay vì dọn ra mâm chung với bát đũa như trước, từ đó phù hợp hơn với cả người dân trong nước lẫn người nước ngoài. Trong thập niên 1970, một số tiệm cơm tấm đã trở nên nổi tiếng đối với cộng đồng người dân sinh sống tại Sài Gòn. Cơm tấm Thuận Kiều tọa lạc tại Quận 11 là một ví dụ điển hình trong số đó, được cho là nơi khai sinh ra phong cách cơm tấm ăn kèm sườn nướng, chả trứng, bì trộn thính và nước mắm chua ngọt.