Früher wurden Bedürftige vielfach ihrem Schicksal überlassen. Dieser unhaltbare Zustand führte um das Jahr 1830 zur Einrichtung eines Armenhauses im Wilen. Rasch war das einfache Appenzellerhaus (es wurde 1970 abgebrochen) überfüllt und zu klein.
Als alt Grossrat J. Niederer-Joos dem Gemeinderat sein grosszügiges Wohn- und Geschäftshaus im Almendsberg zum Kauf anbot, stimmte die Kirchhöre (Gemeindeversammlung) am 11. Januar 1874 dem Erwerb und dem Kaufpreis von 28000 Franken zu. Nach Umbau- und Einrichtungsarbeiten konnte das Haus einige Monate später von verarmten Einwohnern und Waisenkindern bezogen werden.
80 Rappen Lohn für zehn Stunden Arbeit
In den Mehrbettzimmern und Nebenräumen herrschten enge Verhältnisse, zumal laufend armengenössige Gemeindebürger von auswärts ins Armenhaus eingewiesen wurden. Die Bewohner hatten sich an eine strikte Hausordnung zu halten und waren zur Mitarbeit im hauseigenen Landwirtschaftsbetrieb, der Haushaltung und der Kehrichtabfuhr gezwungen.
Für die in Walzenhausen verbreitetet Textilindustrie hatten Insassinnen Heimarbeit zu leisten, wobei die Zwirnereibesitzer im Jahr 1907 einen zehnstündigen Arbeitstag mit schäbigen 80 Rappen entlöhnten.