Budgie s’est formé en 1967 à Cardiff, au Pays de Galles, sous le nom de Hills Contemporary Grass. Leur formation initiale était composée de Burke Shelley au chant et à la basse, Tony Bourge à la guitare et au chant, et Ray Phillips à la batterie. Après avoir donné plusieurs concerts en 1968, le groupe a changé son nom en Budgie l’année suivante et a enregistré sa première démo. Le groupe avait initialement envisagé de s’appeler « Six Ton Budgie », mais a décidé que la variante plus courte en un seul mot était préférable. Burke Shelley a déclaré que le nom du groupe venait du fait qu’il, « aimait l’idée de jouer du rock bruyant et lourd, mais de nous appeler d’après quelque chose de diamétralement opposé à cela ».
Leur premier album de hard rock fort et orienté blues a été enregistré aux studios Rockfield avec le producteur de Black Sabbath Rodger Bain et est sorti en 1971, suivi de Squawk en 1972. Le troisième album, Never Turn Your Back on a Friend (1973), contient « Breadfan », qui a été repris par Metallica en 1987. Metallica avait repris une autre chanson de Budgie, « Crash Course in Brain Surgery », plus tôt dans leur carrière. Ray Philips a quitté le groupe avant l’enregistrement du quatrième album, In for the Kill ! Il est remplacé par Pete Boot.
À la fin de 1974, Boot part et est remplacé par Steve Williams pour l’album Bandolier. Pour les concerts de promotion de cet album (et de la suite, If I Were Brittania I’d Waive the Rules), le groupe a été augmenté par le second guitariste Myf Isaac. La musique de l’album Impeckable de 1978 a été reprise dans le film J-Men Forever de 1979 (diffusé fréquemment sur la chaîne de télévision américaine « Night Flight » dans les années 1980), qui est maintenant considéré comme un classique culte. Bourge et Isaac quittent le groupe en 1978 et sont remplacés par Robert Kendrick, ancien guitariste de Trapeze, et Huw Lloyd-Langton, ancien guitariste de Hawkwind. Le passage de Langton est de courte durée car Kendrick convainc le groupe de le renvoyer. À la fin de 1978, après avoir été lâché par A&M et sans nouveau contrat d’enregistrement, ce line up vacille, et après 12 mois, Kendrick est remplacé par « Big » John Thomas (né le 21 février 1952) à la fin de 1979. Ce groupe a enregistré deux albums pour le label Active de Kingsley Wards : Power Supply (1980) et Nightflight (1981). 1982 les a vus signer chez RCA pour Deliver Us from Evil leur dernier enregistrement pour un « major label ».
Le groupe a continué à avoir du succès pendant la période de la nouvelle vague de heavy metal britannique, jouant au festival de Reading en 1980 puis en tête d’affiche du festival en 1982. Ils ont construit un suivi particulier en Pologne, où ils ont joué comme le premier groupe de heavy metal derrière le rideau de fer, en 1982. On peut également noter leur tournée en soutien au Blizzard of Ozz Tour d’Ozzy Osbourne.
Le groupe a cessé de donner des concerts en 1988. Les membres se sont lancés dans la production en studio, en étant occasionnellement invités sur d’autres projets ; Thomas a notamment travaillé sur le CD Phenomena avec Glenn Hughes hors des studios Black Sabbath.
Bien que le groupe ait eu très peu de succès commercial en Amérique, il a bénéficié d’un fort culte au Texas et il est connu pour avoir été diffusé à la radio par Joe Anthony et Lou Roney sur la radio KMAC/KISS à San Antonio dans les années 1970, ainsi que sur KSHE95 à St. Louis. Le groupe s’est reformé avec différents batteurs pour des concerts ponctuels en 1995 et 1996 dans le cadre du festival en plein air « La Semana Alegre » à San Antonio, Texas. Ils ont fait une tournée de 2002 à 2006, principalement au Royaume-Uni, dans la région de New York/NJ, à Dallas, et quelques concerts en Europe, notamment au Sweden Rock Festival et un retour en Pologne. En 1999, le groupe se reforme officiellement à Letchworth.
En 2006, Budgie entreprend une tournée de 35 dates au Royaume-Uni et sort un nouvel album, You’re All Living in Cuckooland, le 7 novembre de la même année. En 2007, ils ont également joué en Suède et en Pologne.
Le 4 juillet 2007, Lees a annoncé son départ du groupe pour se concentrer sur l’enseignement et une carrière solo.
Après le départ de Lees, Craig Goldy, guitariste principal et auteur-compositeur de Dio, a offert ses services alors que Ronnie James Dio terminait ses engagements avec Heaven & Hell.
En février 2008, Craig Goldy a accompagné Budgie lors de leur première tournée en Australie et a continué à jouer avec le groupe en tant que « guitariste invité » pour tous leurs spectacles.
La tournée de novembre 2010 de Budgie en Europe de l’Est a dû être annulée car Shelley a été hospitalisé le 9 novembre à Wejherowo, en Pologne, pour un anévrisme aortique de 6 cm. Après une opération, il est rentré en Grande-Bretagne pour se rétablir.
Le 3 mars 2016, l’ancien guitariste John Thomas est décédé à l’âge de 63 ans après avoir été admis à l’hôpital pour une pneumonie. La nouvelle de son décès a été confirmée par le batteur Steve Williams sur Facebook : « Mon ami et collègue du groupe BUDGIE, John Thomas, est malheureusement décédé la nuit dernière. Mes pensées vont aux proches qu’il laisse derrière lui. »
En février 2018, l’ancien batteur de Budgie, Pete Boot, est décédé à l’âge de 67 ans. Depuis de nombreuses années, il faisait face à la maladie de Parkinson.
En avril 2018, le membre fondateur et batteur originel Ray Phillips a publié son autobiographie.