中央司法部成立于1931年11月召开的第一次全国苏维埃代表大会，张国焘为部长，因张国焘未到职，12月，中央执行委员会委任梁柏台为司法委员会委员，主持中央司法部工作。1934年2月，在第二次全国苏维埃代表大会上，梁柏台委任为部长。

梁柏台被今天人们称之为“红色法律专家”。他于1931年5月从苏联回国，同年9月来到中央苏区的中心瑞金，参加了第一次全苏大会的筹备工作，并被推选为我党历史上第一个宪法起草委员会成员。1933年8月，梁柏台又被任命为“二苏大会”起草委员会委员，负责起草大会报告和修订有关法令。在苏区工作近四年时间，梁柏台主持起草了《中华苏维埃共和国宪法大纲》、《中华苏维埃共和国婚姻条例》、《中华苏维埃共和国司法程序》等，初步建立起红色法律体系。在他主持领导中央司法部工作期间下，苏区司法机关初具雏形，形成了有苏区特色的司法制度，即：中央司法行政机关和审判机关采取“分立制”，司法部专管司法行政工作，最高法院专管审判工作；在地方则采用审判和司法“合一制”，由各级裁判兼理审判和司法工作。梁柏台还是苏区劳动感化制度的创始人。他还建立和完善了苏区司法程序，坚持正确的司法路线，重视和强调公开审判。对于肃反扩大化现象，梁柏台力图通过严格依法办案来纠正错误的肃反路线，在办理案件时，注意严格还分敌我两类不同性质的问题，采取不同处理方法。如中央政府办公厅厅长刘开，官潦作风严重，很多人写信给临时最高法庭，要求处罚他，当何叔衡找到梁柏台商量处理方法时，梁柏台就指出，他毕竟不是敌人，还是用教育的方法好，最后就采用召开群众大会的形式，对刘开进行批评教育，收到良好效果。

中央司法部下设民事处、刑事处、劳动感化处、总务处等机构，1933年4月，中央司法部从叶坪搬迁到沙洲坝，1934年7月又从沙洲坝迁到云石山。