Big Star lo formaron en 1971 en la ciudad de Memphis (Tennessee) el guitarrista y cantante Chris Bell, el bajista Andy Hummel, el batería Jody Stephens, y el guitarrista y cantante Alex Chilton. Aunque los cuatro componían y cantaban, la mayoría de las canciones del grupo fueron compuestas e interpretadas por Bell y Chilton, que formaban un equipo creativo similar al de Lennon y McCartney.
Bell compuso dos de las canciones del primer repertorio del grupo cuando formaba parte de dos encarnaciones anteriores del grupo, denominadas Icewater y Rock City, a las que también pertenecieron Stephens, Terry Manning, Thomas Eubanks, Steve Rhea, Hummel, Vance Alexander, Richard Rosebrough y, finalmente, Chilton. Las grabaciones de finales de los 60 y comienzos de los 70 de esos grupos se incluyen en los álbumes Rock City y Rockin' Memphis, editados por Lucky Seven/Rounder Records en 2003.
El grupo no fue bautizado como Big Star (el nombre procede de una tienda local de Memphis) hasta las sesiones de grabación en las que participó Chilton (antiguo miembro de los Box Tops y leyenda del pop adolescente) y que proporcionaron el material para el primer LP del grupo, #1 Record. El disco fue producido por John Fry, jefe de los Ardent Studios, con la asistencia de Terry Manning, que añadió algunos coros y arreglos de teclado. #1 Record se editó en 1972, pero Ardent Records, su sello discográfico, tuvo problemas con sus distribuidores, Stax y Columbia Records, lo que tuvo como resultado que se vendiesen muy pocos ejemplares.
Bell, tratando de vencer una severa depresión, y decepcionado por la falta de éxito comercial, abandonó el grupo en 1972 para desarrollar su carrera en solitario. Big Star se disolvió durante una corta temporada, pero sus integrantes volvieron a ponerlo en marcha y editaron Radio City en 1974. En este álbum aparecen dos de las canciones más famosas del grupo, "September Gurls" y "Back of a Car". Aunque no aparece en los créditos, Bell intervino en la creación de algunas canciones del álbum, como "O My Soul" y la citada "Back of a Car," según Fry (citado por Clark, 1992) y Hummel (citado por Jovanovic, 2004). La cubierta original del álbum era una fotografía en color, "The Red Ceiling", obra del conocido fotógrafo William Eggleston. A pesar de obtener excelentes críticas, no fue un éxito de ventas: Hummel abandonó la banda y fue sustituido por John Lightman para las actuaciones en directo.
Chilton y Stephens grabaron varios temas con el productor Jim Dickinson para un proyectado doble LP con numerosos amigos e invitados, incluyendo a la vocalista Lisa Aldridge, el batería Richard Rosebrough, Lee Baker de Mud Boy and the Neutrons, y Steve Cropper. Rosebrough había intervenido en algunas grabaciones en solitario de Chilton, en 1970, después de la separación de los Box Tops y antes de que se formara Big Star, y participó también en tres de los temas de Radio City ("What's Goin' Ahn", "She's a Mover" y "Mod Lang", según Jody Stephens, citado por Metz). Tras grabar este disco, la banda volvió a deshacerse a finales de 1974. El disco apareció finalmente cuatro años más tarde, en el sello PVC, con el título de Third, un álbum que combina un enfoque más intimista con una marcada sensibilidad pop, próxima a referentes que van de Left Banke a The Velvet Underground. En 1992 se reeditó en formato CD con el título de Third/Sister Lovers.
En los años 80, los críticos comenzaron a citar los discos de Big Star entre los más destacados de la década anterior, y los consideraron un importante eslabón entre el clásico pop de guitarras de los 60 y los sonidos de la new wave y del rock alternativo de los 80. Muchas bandas alternativas de los 80 y 90, como R.E.M., Teenage Fanclub, The Replacements, Primal Scream, Bill Lloyd y The dB's han citado a Big Star como una de sus principales influencias. The Bangles incluyeron una versión de "September Gurls" en su disco Different Light (1985) y, más recientemente, Wilco ha mostrado una fuerte influencia de Sister Lovers, especialmente en su álbum A Ghost Is Born.