R = ro * L/s
Résistance = résistivité du métal (18 nano.ohm*m pour le cuivre) multipliée par Longueur en mètres et divisé par la section en m2.
Comme on mesure les sections en mm2 plutôt qu'en m2 tu oublies le nano.ohm et le transformes en milli.ohm*m, à savoir que le cuivre a une résistance de 18/1000 ohm pour une section de 1 mm2 sur une longueur d'1 m.
Donc R = 18/1000 * L/s (s en mm2)
Tu veux faire passer 150 A sans que tes câbles fassent perdre une forte tension et sans qu'ils chauffent dangereusement.
Admettons que tu acceptes une perte de 1 V entre la batterie et l'entrée du treuil. 1 V pour 150 A c'est 150 W de chaleur (P = UI) produits par les câbles sur plusieurs mètres, donc parfaitement acceptable (cela chauffera à peine et tu perds peu de tension).
Cela correspond à une résistance R = U/I soit 1/150 ohm.
Si tes câbles font 5 mètres, on arrive au bout des calculs : on a 10 m au total pour 1/150 ohm, donc la section en mm2 est 18/1000 * 10 * 150 soit 27 mm2 ...
On tombe dans les chiffres de l'excellent ZZTop91

Il faut aussi faire très attention aux connexions : c'est là qu'est le plus risque d'échauffement, il faut une très bon sertissage des cosses.
(je vois que ZZTop vient de répondre, on a l'air en phase)