The main focus of this thesis was the development and investigation of reliable and high quality MBE grown quaternary (Bi1-xSbx)2(Te1-ySey)3 (BSTS) samples. The promise of this topological insulator (TI) alloy is twofold: on the one hand, effective suppression of parasitic bulk conductivity along with high mobility surface transport has already been reported for certain alloy ratios. Secondly, the possibility to engineer the electronic characteristics simply by means of varying the material stoichiometry opens perspectives to design TI samples with band structures custom-tailored to the respective application. Efforts to exploit both of these desirable properties, however, face the challenge of a suitable crystal growth method. While the high mobility surface transport was realized in exfoliated flakes from macroscopic Bridgman crystals, the band structure engineering aspect is only practically applicable by means of epitaxy. Moreover, epitaxial growth provides a variety of additional benefits that are indispensable for many types of use scenarios, with several of them playing a key role in this work, where we employed molecular beam epitaxy.
In this thesis, we show how the band structure of epitaxial bilayers of topological insulator consisting of p-type BSTS and n-type Bi2Se3 can be precisely engineered by varying the thickness of the respective layers and how the parasitic bulk conduction can be minimized by means of compensation effects within such vertical p-n-type heterostructures. Furthermore, we discuss novel quantum effects arising in magnetotransport measurements and show how these effects govern the electronic transport behavior of the samples at low temperatures. Using the results gained from detailed transport studies, we lastly also provide a first approach for a further optimization of the sample design.

Der Fokus dieser Arbeit lag auf der Entwicklung und Untersuchung von reproduzierbaren und qualitativ hochwertigen MBE gewachsenen Proben der vierwertigen Legierung (Bi1-xSbx)2(Te1-ySey)3 (BSTS). Dieser topologische Isolator (TI) bietet zwei Vorteile: einerseits wurde bereits eine effektive Unterdrückung parasitärer Volumenleitfähigkeit für bestimmte Legierungszusammensetzungen berichtet. Darüber hinaus bietet die Möglichkeit die elektronischen Eigenschaften über die Stöchiometrie einzustellen vielfältige Perspektiven für die Entwicklung von TI Proben mit maßgeschneiderter Bandstruktur. Versuche beide dieser Vorteile auszunutzen stoßen allerdings auf die Herausforderung der geeigneten Kristall Wachstumsmethode. Während der Oberflächentransport mit hoher Beweglichkeit in exfolierten Flocken von makroskopischen Bridgman Kristallen beobachtet wurde, ist ein praktikables Design der Bandstruktur nur in epitaktischen Proben möglich. Darüber hinaus bietet die Molekularstrahlepitaxie, die in dieser Arbeit verwendet wurde, zahlreiche weitere Vorteile für verschiedene Anwendungen.
In dieser Arbeit zeigen wir wie die Bandstruktur von epitaktischen Bilagen topologischer Isolatoren bestehend aus einer n-Typ Bi2Se3 und einer p-Typ BSTS Schicht präzise eingestellt werden kann über die Dicke der jeweiligen Strukturen. Wir diskutieren weiterhin die Beobachtung von Quanteneffekten in Magnetotransport Experimenten und zeigen wie diese Effekte das elektronische Transportverhalten dieser Proben bei tiefen Temperaturen bestimmen. Unter Verwendung der Resultate von detaillierten Transportstudien präsentieren wir zuletzt einen Ansatz für eine weiter Optimierung des Proben Designs.