Nacido en familia de marqueses, los Lazán y Cañizar, no era, sin embargo, el heredero al título nobiliario y como tercer hijo se dedicó a la carrera militar (algo no extraño en esos años, finales del siglo XVIII) a la edad de 16 años. De nombre José Rebolledo de Palafox y Melzi, ya era brigadier en 1808 y fue uno de los que acompañaría a Fernando VII a Bayona. También estuvo entre los que quisieron preparar la huida de este y su regreso a España, pero al fracasar, se vio obligado a regresar a España sin el rey.
Se retiró a Zaragoza, su ciudad natal, unos días, pero el levantamiento del 2 de mayo, el ataque francés a la ciudad y el posterior asedio le hicieron volver a la actividad militar y encabezar la resistencia. El 25 de mayo de 1808, tras un asalto popular a la Capitanía General y el encarcelamiento del antiguo capitán general (por su actitud titubeante ante los franceses), los zaragozanos le nombrarían capitán general de Aragón. Desde ese puesto, con escasos medios, organizaría la defensa de la ciudad y consiguió resistir varios asaltos de las tropas.
Los historiadores actuales ponen en duda algunas de las afirmaciones del párrafo anterior. En su autobiografía, Palafox señala que fue enviado a Zaragoza por orden del rey para levantar en armas Aragón, pero los datos parecen contradecir esa afirmación. Cuando cesaron al jefe militar anterior, Palafox encabezaba una junta donde había varios afrancesados (que más tarde serían detenidos por ese motivo), incluso se dice que algunos de sus colaboradores estaban elegidos por el propio Murat (general francés). Es probable que en aquellos primeros instantes, Palafox estuviera jugando en los dos bandos y de decantaría por el español por las circunstancias.
En agosto de 1808, los franceses harían el asalto definitivo, superarían las defensas y se apoderarían de media ciudad de Zaragoza. Fue entonces cuando Palafox salió de la ciudad en busca de refuerzo y retornó con 3000 soldados españoles a las órdenes de uno de sus hermanos; renovadas las esperanzas, los zaragozanos continuaron resistiendo y aunque existieron planes para evacuar parte de la ciudad y retirarse al otro lado del Ebro, durante 6 días realizaron tal castigo a las tropas atacantes que serían estas las que acabarían retirándose.
Los historiadores también ponen en duda esta versión que nos ha llegado a través de Palafox y amigos. No solo se duda de lo acertado de sus decisiones durante el asedio, sino que también se cuestiona el hecho de que abandonara la ciudad durante el ataque francés de agosto. La excusa es que iba a buscar refuerzos (que finalmente llegaron), pero parece ser que se los encontró, que no iba realmente buscándolos sino huyendo.
Roto el asedio, Palafox organizó una serie de campañas en campo abierto para hostigar a las fuerzas francesas, pero estas correrías terminarían con la llegada del ejército de Napoleón. Palafox y sus tropas volverían a retirarse a Zaragoza donde sufrirían un segundo asedio aún más intenso que el primero y que terminaría con la derrota de las tropas españolas. Tras ceder el poder a la junta, Palafox fue hecho prisionero y encerrado por las tropas francesas (le acusaban de haber jurado lealtad a José Bonaparte, cosa que hizo, y luego haberse levantado en armas contra él, cosa que también hizo). Prisionero estuvo hasta 1913 con la firma del Tratado de Valençay (que pone fin a la guerra).
Ese juramento ante José Bonaparte es uno de los indicios para suponer que la versión recibida no es del todo correcta. ¿Por qué juró ante José Bonaparte si su lealtad hacia Fernando VII era tal? Algunas fuentes aseguran que Palafox se movía por la ambición personal, no por el patriotismo.
En los años siguientes a la guerra, Palafox va alternando puestos militares (vuelve a ser capitán general de Aragón, por ejemplo) hasta que en 1823 se retiraría de la vida pública. El motivo no está claro, pero un distanciamiento de Fernando VII y el nuevo régimen absolutista parece lo más probable. A la muerte del rey, María Cristina de Borbón le nombra prócer del reino (junio de 1834) y un mes después le concedió el título de duque de Zaragoza. Sin embargo, 6 días después de la concesión, le detuvieron por formar parte de la conspiración de Avinareta (esta fue organizada por un grupo secreto conocido como La Isabelina que estaba en contra de la regencia de María Cristina, aunque parece que su verdadero objetivo era conseguir que se promulgara una constitución de corte liberal). Un año después, coincidiendo con la llegada al poder de Mendizábal (uno de los promotores del liberalismo en España), le absuelven de la acusación y le nombran de nuevo capitán general de Aragón, pero no llegaría a tomar posesión del cargo porque también le nombrarían director del Establecimiento de Inválidos.
Tras el Motín de la Granja (donde se restauraría la Constitución de 1812, las disposiciones del trienio liberal y Mendizábal volvería al gobierno), Palafox es nombrado, entre otras cosas, comandante general de la Guardia Real. Tendría otros puestos, pero sin abandonar el de la Guardia Real, hasta octubre de 1846 que cesa en todos los cargos por la mala salud. Pocos meses después, en febrero de 1847 moriría víctima de una apoplejía.