Anlässlich der Alpbacher Technologiegespräche 2002 gab Anton Zeilinger die Anregung für eine neue, herausragende wissenschaftliche Einrichtung für Grundlagenforschung. Ein grundlegendes Konzept wurde 2005 vorgelegt. Rechtliche Basis für das Institut ist das 2006 beschlossene Bundesgesetz über das Institute of Science and Technology Austria (IST Austria). Ein internationales Komitee, bestehend aus Haim Harari, Olaf Kübler und Hubert Markl, veröffentlichte im Juni 2006 einen Bericht, der die Grundlage für die die Forschungseinrichtung wurde. Das Kuratorium wurde im Dezember 2006 bestellt.

Bis zur Ernennung des ersten Präsidenten lagen alle Entscheidungen in den Händen des von Haim Harari geleiteten Exekutivausschusses des Kuratoriums. Harari war nicht nur mit der Entwicklung des Campus and der Bestellung der Professoren betraut, sondern auch mit dem Aufbau der notwendigen Organisationstrukturen. Zu Beginn 2007 wurde Gerald Murauer als interimistischer Geschäftsführer angestellt und später vom ersten Präsidenten zum Geschäftsführer ernannt. Die Verwaltung wuchs langsam und erreichte im Herbst 2007 einen Mitarbeiterstand von sechs Personen.

Der Exekutivausschuss des Kuratoriums nahm die  Suche nach dem ersten Präsidenten zu Beginn 2008 auf. Einige Dutzend KandidatInnen wurden sorgfältig geprüft. Die endgültige Wahl
Ende 2008 fiel auf Thomas Henzinger. Er nahm an allen wichtigen Entscheidungen im Jahr 2009, inbesondere an der Bestellung neuer ProfessorInnen, teil und trat sein Amt am Institut im September 2009 an.

Die offizielle Eröffnung des IST Austria erfolgte im Juni 2009, als die ersten theoretischen Forschungsgruppen ins Hauptgebäude und die Verwaltung ins Verwaltungsgebäude, das voestalpine Building, zogen. Auch der Hörsaal, das Gästehaus, die Campus-Mensa und die Versorgungsanlagen wurden 2009 in Betrieb genommen. Die experimentellen Forschungsgruppen sind im
2010 eröffneten Laborgebäude, dem Bertalanffy Foundation Building, im 2012 eröffneten Lab Building East sowie im 2015 eröffneten Lab Building West untergebracht. Mehr als 40 Forschungsgruppen sind derzeit auf dem Campus tätig. Ende 2026 ist eine Größe von bis zu 1000 WissenschaftlerInnen und DoktorandInnen geplant.

Bertalanffy Foundation Building im Bau