有效的仲裁协议，总体上具有三方面的法律效力，即：对当事人的约束力、对仲裁机构的效力和对法院的制约力。
1.对当事人的法律效力。这是仲裁协议效力的首要表现。其一，仲裁协议约定的特定争议发生后，当事人就该争议的起诉权受到限制，只能将争议提交仲裁解决，不得单方撤销协议而向法院起诉。其二，当事人必须依仲裁协议所确定的仲裁范围、仲裁地点、仲裁机构等内容进行仲裁，不得随意更改。其三，仲裁协议对当事人还产生基于前两项效力之上的附随义务，即：任何一方当事人不得随意解除、变更已发生法律效力的仲裁协议；当事人应履行仲裁委员会依法作出的裁决，等等。
2.对仲裁机构的法律效力。有效的仲裁协议是仲裁机构行使管辖权，受理案件的惟一依据。没有仲裁协议的案件，即使一方当事人提出仲裁申请，仲裁机构也无权受理。仲裁协议对仲裁管辖权还有限制的效力，并对仲裁裁决的效力具有保证效力。当然，仲裁机构对仲裁协议的存在、效力及范围也有裁决权。
3.对法院的法律效力。首先，有效的仲裁协议排除了法院的管辖权。其次，对仲裁机构基于有效仲裁协议作出的裁决，法院负有执行职责。这体现了法院对仲裁的支持。第三，有效的仲裁协议是申请执行仲裁裁决时必须提供的文件。根据《联合国关于承认和执行外国仲裁裁决公约》（《纽约公约》）的规定，为了使裁决能在另一国得到承认和执行，胜诉的一方应在申请时提交：仲裁裁决的正本或正式副本；仲裁协议的正本或正式副本。在执行外国仲裁裁决时，仲裁协议是否有效，是法院审查的重要内容之一。
