O Termo de Compromisso Arbitral é, na realidade, um acordo entre as partes, as quais submetem à arbitragem um conflito pré-existente. Ou seja, apenas após a ocorrência do fato que gerou o litígio é que as partes decidem fazer uso da arbitragem como forma de resolução de conflito.
Existem duas possibilidades, em dois momentos distintos, para se elaborar.
A primeira possibilidade é mediante a elaboração de um compromisso arbitral judicial. Nesse caso, já há um processo tramitando perante o Poder Judiciário. Assim, será celebrado o compromisso arbitral através de um termo nos autos, perante o juízo ou tribunal, onde está em curso o processo.
Já a segunda forma é através do compromisso arbitral extrajudicial, que é celebrado entre as partes através de um documento particular. Referido documento deverá contar com a assinatura de duas testemunhas ou ser elaborado através de instrumento público.