James Madison er kjent som Constitution of the Constitution. Før Grunnlovskonvensjon, Madison brukte mange timer på å studere regjeringsstrukturer fra hele verden før han kom med den grunnleggende ideen om en blandet republikk. Selv om han ikke personlig skrev alle deler av grunnloven, var han en nøkkelaktør i alle diskusjoner og argumenterte kraftig for mange ting som ville til slutt gjøre det til grunnloven inkludert befolkningsbasert representasjon i kongressen, behovet for kontroller og balanser og støtte til en sterk føderal executive.
Madison dro til kongressen for å be om en krigserklæring mot England som startet opp Krigen 1812. Dette fordi britene ikke ville slutte å trakassere amerikanske skip og imponere soldater. Amerikanerne kjempet i begynnelsen og mistet Detroit uten kamp. Marinen klarte seg bedre, med Commodore Oliver Hazard Perry som ledet nederlaget til britene ved Lake Erie. Britene kunne imidlertid fortsatt marsjere mot Washington, og ble ikke stoppet før de var på vei til Baltimore. Krigen ble avsluttet i 1814 med en dødstid.
Sammen med Alexander Hamilton og John Jay, James Madison forfatter Federalist Papers. Disse 85 essayene ble skrevet ut i to aviser i New York som en måte å argumentere for grunnlov slik at New York ville gå med på å ratifisere den. En av de mest kjente av disse avisene er nr. 51 som Madison penned uttalte det berømte sitatet "Hvis menn var engler, ville ingen regjering være nødvendig ..."
Madison var en av de viktigste talsmennene for gjennomgangen av de ti første endringene til grunnloven, samlet kjent som Bill of Rights. Disse ble ratifisert i 1791.
Dolley Payne Todd Madison var en av de mest elskede første damene og kjent som en fantastisk vertinne. Når Thomas Jefferson's kona hadde dødd mens han tjente som president, hun hjalp ham ved offisielle statsfunksjoner. Da hun giftet seg med Madison, ble hun fornektet av Society of Friends, fordi mannen hennes ikke var en Quaker. Hun hadde bare ett barn etter et tidligere ekteskap.
To utenrikshandelregninger ble vedtatt i løpet av hans funksjonstid: loven om ikke-samleie av 1809 og Macons regning nr. 2. Loven om ikke-samleie var relativt ikke gjennomførbar, og tillot USA å handle med alle nasjoner unntatt Frankrike og Storbritannia. Madison utvidet tilbudet om at hvis en av nasjonene arbeidet for å beskytte amerikanske skipsfartsinteresser, ville de få lov til å handle. I 1810 ble denne loven opphevet med Macons lovforslag 2. Den sa at hvilken nasjon som sluttet å angripe amerikanske skip ville bli foretrukket, og USA ville slutte å handle med den andre nasjonen. Frankrike ble enige, men Storbritannia fortsatte å imponere soldater.
Da britene marsjerte mot Washington under krigen i 1812, brente de mange viktige bygninger inkludert Navy Yards, den uferdige amerikanske kongressbygningen, Treasury Building og The White Hus. Dolley Madison flyktet fra Det hvite hus og tok mange skatter med seg da faren for okkupasjon var åpenbar. Med hennes ord: "På denne sene timen er en vogn anskaffet, og jeg har fått den fylt med plate og de mest verdifulle bærbare gjenstandene, som hører til huset... Vår snille venn, Mr. Carroll, har kommet for å fremskynde avgangen, og med en veldig dårlig humor med meg, fordi jeg insisterer på å vente til det store bildet av general Washington er sikret, og det krever å bli skrudd løs fra vegg... Jeg har beordret at rammen skal brytes, og lerretet tas ut. "
De Hartford Convention var et hemmelig føderalistisk møte med individer fra Connecticut, Rhode Island, Massachusetts, New Hampshire, og Vermont som var motstandere av Madisons handelspolitikk og krigen i 1812. De kom med en rekke endringer som de ønsket vedtatt for å ta opp spørsmål de hadde med krigen og embargoene. Da krigen tok slutt og nyheter om det hemmelige møtet kom ut, ble Federalist Party partiet mislikt og falt til slutt fra hverandre.