要取得SOA部署的成功，必須先建立起核心架構領導團隊，以確保付出的努力符合需求、並指導架構的發展。針對架構的最佳實踐可分爲重用、數據管理等幾個不同的方面。
SOA的重用不僅僅是傳統的代碼重用。它必須做到架構重用——創建一個可重用的架構框架，通過細緻的規劃、工程與管理來推動企業內各SOA項目的發展。
許多SOA實施關注於服務的實現(implementation)，而沒有對SOA的數據管理方面予以足夠重視。如此掉以輕心可能會造成數據管理不當、不可靠的數據、並威脅到數據完整性。許多專業人士仍以過去點對點式的數據需求來看問題。
根據經驗：着將數據實現爲服務，有效的信息元數據管理與公用信息模型(Common Information Model，CIM)的運用是成功的一個關鍵因素。使用CIMs，令你可以設立標準併爲適用於所有接口、消息、數據結構與數據轉換的信息創建描述性元數據，以支持重用，並由此加快開發速度。用模型驅動的方法把最佳實踐標準化，可以加快開發速度，並能夠在接口與信息結構之間建立起更好的一致性。使用這種模型驅動的方法有助於減少對轉換(transformation)的需求，並使之更容易在需要時設計轉換。
在IT與業務之間的建立聯繫：這需要通過有目的的工作，把IT與業務流程聯繫起來，並關注於未來的業務流程設計——也就是說，你在設想SOA方案時，應該着眼於業務流程應該如何運行，而不是目前如何運行。業務流程建模提供了一種跟蹤重要業務實體生命週期的有效辦法，由此獲得的業務流程模型不但簡單靈活，而且具有一致的任務粒度，這更易於在不同利益相關者(無論是業務級、還是IT級的)之間達成一致。
只有依靠紮實的方法學確保模型正確，這種建模方法纔會有用。若高層業務流程模型不正確，那麼要把它細化爲可執行的業務流程(executable business processes)就會變得困難而昂貴。
組件業務建模(CBM)以及面向服務的建模與架構(SOMA)都爲以最佳實踐的方式來建模提供了支持。 CBM可以幫助你對企業進行分析：它首先將企業劃分爲若干相對獨立、不相交的業務組件，然後再尋找革新或改良的機會。要創建一種面向服務的架構(SOA)，面向服務的建模(service oriented modeling)是必須的。其輸入是業務組件化分析(business componentization analysis)的結果、業務目標(business goals)以及關鍵業績指標(key performance indicators);其輸出是一個獨立於任何特定技術與模型的SOA。
要脫離一種筒倉式的(siloed )組織結構，這種組織結構往往只從各個項目內部進行考慮。假如沒有某種集中控制，要將大量項目按它們各自的日程整合起來，恐怕是難以實現且多半低效的。與此相關的最佳實踐是：設立一個有各技術相關利益者參與的權威機構來監管設計，並推進早期的架構決策。
要成功通過SOA獲得持續效益，另一個關鍵因素是SOA治理(SOA governance)。SOA治理令業務團隊與IT團隊可以更好地協作，以識別出那些對實現業務目標最有貢獻的項目。
應該在最初的SOA試點項目之中和首個重要SOA項目開始之前引入SOA治理。這令你們機構可以成功處理重要項目的複雜性，而不是像訓練任務一樣對待它。SOA治理也應當與你們機構的企業架構計劃一致。
爲避免各個項目使用重疊、不一致的治理模型，造成混亂與阻礙，需要有企業級、跨項目的視野。
通常，SOA實施會涉及到許多彼此交互的服務。因此，對於SOA實施來說，可伸縮性、可靠性及高可用性(availability)是最重要的需求。儘量採用那些已知的方案以滿足可靠性與性能需求。然後，設計、測試、再測試，以確保性能、可伸縮性及互操作性需求得到了滿足。不要在尚未正確解決並測試這些非功能性需求的情況下就部署一個方案。
SOA成功的另一個關鍵因素是：確保運營的可視性及實施的可控制性：問題與事件管理系統，以及問題判定與檢修工具，應在架構的各個層次提供充足的可配置的信息。同時，選擇那些簡化了SOA基礎設施管理的技術方案，將有助於限制複雜性。