Na de ontruiming begon er een periode waarin het gebouw geschikt gemaakt moest worden voor de huisvesting van een gedeelte van de rechterlijke macht in Amsterdam. Burgemeester en wethouders van Amsterdam stelden de gouverneur van Noord-Holland voor om het oude Aalmoezeniersweeshuis geschikt te maken voor de functie van Paleis van Justitie. De instelling van de rechterlijke colleges werd in 1810 en 1811 per keizerlijk decreet geregeld. Het gehele land werd verdeeld in arrondissementen. Per
arrondissement was er een Rechtbank van eerste aanleg; elk arrondissement werd opgedeeld in kantons. Amsterdam had zes kantons. Naast de genoemde rechtbanken was er het Hof van Assises. Vooral de Rechtbank van eerste aanleg en het Hof kwamen in aanmerking voor huisvesting in het nieuwe Paleis van Justitie.
De architect van de verbouwings- en nieuwbouwplannen was Jan de Greef (geboren 1784). In 1802 kreeg De Greef van koning Lodewijk Napoleon een stipendium toegewezen dat hem in staat stelde gedurende zeven jaar in Parijs en Rome architectuurstudies te verrichten. In 1816 werd De Greef benoemd tot ‘Architect van de Koninklijke Paleizen’. In deze functie werkte hij aan de herinrichting en nieuwbouw van de paleizen Noordeinde en Kneuterdijk en ontwierp hij (samen met Reijers) de nieuwe vleugels van Paleis Soestdijk. In 1820 werd hij benoemd tot directeur van de dienst Stadswerken en Gebouwen van de gemeente Amsterdam. Tevens werd hij stadsarchitect. Als stadsarchitect heeft De Greef enkele bekende werken op zijn naam gebracht. Hij restaureerde samen met Suys de uitgebrande Nieuwe of Ronde Evangelische Lutherse Kerk en hij ontwierp het hoofdgebouw bij het Entrepotdok. Als zijn grootste ‘Amsterdamse’ werk geldt echter het herinrichtingsplan van het voormalige Aalmoezeniersweeshuis ten behoeve van de huisvesting van de rechterlijke macht. De Greef is van 1824 tot circa 1832 als architect bij de verbouwing en de inrichting van het Paleis van Justitie betrokken geweest. Hij heeft de opening in 1836 niet meer meegemaakt. Op 2 december 1835 is hij overleden.
De herinrichting van het oude weeshuis werd in mei 1826 goedgekeurd door koning Willem I. De bouw- en inrichtingskosten werden verdeeld over de drie partijen: Rijk (ministerie van Justitie), gemeente Amsterdam en provincie, elk voor een derde deel. Het bouwplan werd opgedeeld in vijf fasen. Een zeer belangrijke fase is de bouw van de nieuwe voorgevel aan de Prinsengracht. De voortgang van de werkzaamheden aan de voorgevel ondervond nogal wat tegenslag. De leveranties van de Witte Bremer ‘hardsteen’ stagneerde, hetgeen ook de voortgang van de overige werken beïnvloedde. De bouwkundige werkzaamheden duurden nog voort tot in 1831. Hierna brak een periode aan waarin men enerzijds een begin maakte met de meubilering en inrichting van het gebouw ten behoeve van de Rechtbank en anderzijds het gebouw in gebruik nam voor diverse andere functies. Zo werd in september 1831 op verzoek van het ministerie van Oorlog de linkerzijvleugel ter beschikking gesteld als garnizoensziekenhuis. Deze situatie duurde tot september 1833. Daarna kon men voortgaan met de verdere meubilering. Op 4 oktober 1836 werd het gebouw feestelijk ingewijd met een redevoering van mr. M.C. van Hall, de president van de Rechtbank. Ook maakte de Stadsbibliotheek gedurende enige jaren nog gebruik van een aantal ruimten in het gebouw.
Tijdens de jaren veertig en vijftig van de vorige eeuw werden diverse verbouwingen in het paleis uitgevoerd. In 1842 werd als gevolg van een reorganisatie van de rechtsmacht de Criminele Rechtbank vervangen door het Provinciaal Gerechtshof. Voor de
griffie van het Hof werden extra kamers ingericht. Het Kantongerecht kreeg de beschikking over een extra zaal en ook de advocatuur kreeg ruimten toegewezen. Een tumultueuze periode brak aan toen in september 1853 de gemeente Amsterdam de linkerzijvleugel van het gebouw ging inrichten als hospitaal voor choleralijders. De leden van de Rechtbank verzetten zich heftig tegen de vestiging van het hospitaal. Amsterdam was echter eigenaar van de (ongebruikte) zijvleugel en zette zijn plannen door. Wel werden de afscheidingen tussen de zijvleugel en het paleis verbeterd.
Vanaf 1860 werden de pogingen gedaan om de vier kantongerechten, die binnen de stadsgrens functioneerden, te huisvesten in het Paleis van Justitie. Om de vier gerechten in het paleis te plaatsen werd de gemeente verzocht om de stadsbibliotheek naar elders te verplaatsen. De bibliotheek vertrok en kort na 1863 vond de verbouwing plaats ten behoeve van de vier kantongerechten. In de jaren die volgden, werden diverse verbeteringen aangebracht. In 1867 werd het gebouw op het waterleidingnet aangesloten en in 1875 werden de lokalen, tot dan toe in gebruik bij het gemeentelijk noodhospitaal, ontruimd. Op verzoek van de minister van Financiën werd een aantal lokalen afgestaan ten behoeve van de ontvanger der registratie (circa 1880). Naar aanleiding van het toenemen van het aantal rechtszittingen en de vraag om uitbreiding van werk- en archiefruimten werden ingrijpende verbeteringen geëist. Ook toen twijfelde(!) menigeen aan het nut om het paleis aan de behoeften aan te passen. Met de woorden van een ambtenaar van het ministerie van Justitie: ‘... is het toch te voorzien, dat hoewel verbetering zou worden verkregen, het paleis van Justitie zal blijven ondoelmatig, ongeschikt, niet tegenstaande een hoogst aanzienlijke geldelijke opoffering’ werd duidelijk aangestuurd op een nieuwe huisvesting. Het ministerie van Justitie onderkende het probleem. Op 9 augustus 1888 presenteerde de Rijksbouwkundige voor de justitiegebouwen, W.C. Metzelaar, een schets van een reorganisatieplan. Belangrijk voor het welslagen van dit plan was dat de linkerzijvleugel (die sinds april 1875 leeg stond) bij het Paleis getrokken zou worden en dat twee van de vier kantongerechten en het Notarieel Archief ondergebracht zouden worden in nieuwe gebouwen. Nadat de minister hiermee akkoord was gegaan, heeft Metzelaar onderhandelingen gevoerd met de gemeente Amsterdam. Deze leidden tot de aankoop van de linkerzijvleugel en van het pand Lange Leidsedwarsstraat 3A.
De vier kantongerechten werden in 1892 gehuisvest in een nieuw gebouw aan het Kleine Gartmanplantsoen. Na het gedeeltelijk leegkomen van het Paleis van Justitie is een groots opgezet verbouwingsplan van start gegaan. Het plan was zeer ingrijpend ten aanzien van sfeer en functioneel gebruik van het gebouw. Kort gezegd: de nieuwe opzet van hallen, trappenhuizen en corridors in het midden- en voorgedeelte, het toevoegen van een grote zittingzaal en het aanbrengen van twee waterkelders op verzoek van het ministerie van Oorlog. Ook werden de vloerconstructies van de eerste en tweede verdieping omhoog gebracht. Het ontwerp van deze verbouwing was — zoals hiervoor vermeld — van W.C. Metzelaar. Hij werd in 1848 geboren. Zijn vader, J.F. Metzelaar (1818-1897) was ingenieur-architect voor de Gevangenis- en Regtsgebouwen. De zoon W.C. volgde zijn vader, J.F. als zodanig op. Er was veel werk te verrichten, want er moest, voortvloeiend uit de Gestichtenwet van 1884, in elk arrondissement een strafgevangenis en een huis van bewaring komen. Metzelaar bouwde veertien van deze gebouwen. Hij drukte ook een stempel op een aanzienlijk aantal gerechtsgebouwen, die rond de eeuwwisseling tot stand gekomen zijn. De overeenkomst in de aanpak van interieurs is in de meeste gevallen duidelijk te zien. Metzelaars voorliefde voor terrazzowerk, rood graniet, zware betimmeringen en lijstwerken en betelde lambriseringen, heeft bij vele van zijn gerechtsgebouwen het beeld bepaald.
De verbouwing (1892-1894) bracht de gebruikers veel ongerief. De oplevering vond plaats op 20 november 1894. Het vernieuwde gebouw bood plaats aan het Gerechtshof, de Arrondissementsrechtbank, het Parket van het Openbaar Ministerie, de Praktizijnssociëteit, de Verenigde Bibliotheek der rechtbanken, de ontvanger der registratie en de Griffies. Tot 1922 bleek het gebouw te voldoen aan de eisen. De vraag naar meer ruimte werd echter allengs groter. Diverse mogelijkheden passeren de revue. Een gemengde commissie van Rechtbank en Gerechtshof kwam uiteindelijk (oktober 1929) met de volgende conclusies: (1) een eventuele opbouw van de verdiepingen is ongewenst, (2) de regenwaterkelders op de binnenplaatsen moeten archieven worden, (3) aanbeveling voor een herindeling van enkele ruimten en (4) de ramen in de noordwand van de Verenigde Bibliotheek moeten dichtgezet worden. Deze aanbevelingen leidden tot een bouwplan dat voor f 30.600,- werd aangenomen.
Tot in de jaren vijftig zijn er slechts kleine aanpassingen verricht, hetgeen niet betekent dat de gebruikers tevreden waren met de beschikbare hoeveelheid ruimte. Vanaf 1913 komt — zo blijkt uit correspondentie — met regelmaat de wens naar voren het aanpalende Stadsbestedelingenhuis aan te kopen. De aankoop sprong echter steeds af op de koopprijs ter grootte van f 150.000,- die de gemeente vroeg. Pas in 1950 werd het Stadsbestedelingenhuis door het Rijk aangekocht voor een aanzienlijk hoger bedrag.