Den ersten beruflichen Kontakt mit Hotelbauten hatte Karl Koller als Mitarbeiter des Architekturbüros ‚Chiodera & Tschudi‘ aus Zürich. In dessen Auftrag übernahm er erst zwanzigjährig die örtliche Bauleitung für die Erweiterung des Bade- und Touristenhotels ‚Altes Bad Bormio‘ zuhinterst im Veltlin gelegen.
Bereits 1899 erhielt er den ersten Auftrag im Hotelbau als selbstständiger Architekt und wurde dann um 1900 erstmals mit der kompletten Planung und Ausführung eines Hotels betraut, dem Hotel Schweizerhof in Vulpera. Die nächsten Aufträge führten ihn nach Vitznau (Parkhotel), St. Moritz (Grand Hotel), Bad Ragaz (Hotel Bristol) und dann nach Sils, wo von 1906 bis 1908 das Hotel Waldhaus gebaut worden ist. 1912 wurde das von Koller geplante Suvretta House bei St. Moritz eröffnet und das Kurhaus Val Sinestra.
Er erarbeitete sich den Ruf eines Experten nicht nur für die Durchführung grosser Projekte, sondern auch für sinnvolle funktionale Abläufe; dies führte zu Grundrissanordnungen, die sich noch heute bewähren.