Orang Cina adalah salah satu bangsa yang paling awal yang berinteraksi dengan Asia Tenggara. Dalam hal Palembang, orang Cina telah datang bahkan sebelum kota di tepi Sungai Musi itu resmi berdiri.
Fa Xian adalah seorang pemuka agama Buddha yang hidup antara akhir abad keempat sampai awal abad kelima. Dia berangkat dari Cina menuju India untuk memperdalam pengetahuannya atas agama Buddha. Dalam perjalanan pulangnya, Fa Xian singgah di Yawadwipa yang berada di sekitar Karang Agung sekarang.
Fa Xian tinggal di Yawadwipa selama lima bulan untuk menunggu angin yang tepat untuk pulang ke Cina. Kita akan tergoda untuk menduga-duga apa yang Fa Xian lakukan selama lima bulan di Yawadwipa. Apakah dia diam saja di satu rumah di dalam kota, atau dia berkeliling melihat-lihat lingkungan sekitar untuk membuang rasa bosan. Jika dia berjalan-jalan, kira-kira sejauh apa dia akan melakukannya, apakah dia pernah mencoba menaiki sampan selama beberapa hari ke hulu Sungai Musi?.
Palembang mungkin baru berupa sebuah kampung nelayan kecil pada tahun 400 masehi, atau bahkan belum ada sama sekali, tetapi Fa Xian sudah berada sangat dekat dengan Palembang di masa dimana pelayaran menyeberangi laut masih merupakan hal yang sulit dan penuh bahaya. Dan jika dalam masa menunggu selama lima bulan itu dia memutuskan untuk berlayar masuk ke hulu Musi maka mungkin dia akan bertemu dengan bukit pertama yang menjulang di dataran rendah di kawasan hilir Sungai Musi, bukit yang dua abad kemudian akan menjadi bukit yang suci bagi orang Melayu.
Kita tidak pernah tahu pasti, yang kita tahu hanyalah Fa Xian mengamati keadaan Yawadwipa dan menulis bahwa disana berkembang aliran Buddha yang berbeda dengan aliran yang dia anut.
250 tahun kemudian, pada tahun 671 masehi, pemuka agama Buddha lainnya datang ke Palembang. Tokoh kita ini bernama I-Tsing. Berangkat dari tanah kelahirannya di Cina, I-Tsing dengan sengaja datang ke Palembang untuk belajar bahasa sansekerta dan cara hidup ala pendeta Buddha seperti yang dipraktekkan di India. Dia mencatat bahwa terdapat ribuan pendeta Buddha yang hidup di Palembang, membuat kota itu menjadi pusat pembelajaran Buddha yang kuat dan utama di luar India.
Karena itu kepada orang-orang di Cina yang hendak mempelajari Buddha, I-Tsing menganjurkan kepada mereka agar terlebih dahulu datang ke Palembang agar dapat mempersiapkan diri dengan baik. Di Palembang mereka bisa belajar bahasa sansekerta dan praktek kehidupan pendeta Buddha dengan cara yang sama seperti di India.
I-Tsing bukan satu-satunya Bikhu Cina yang ada di Palembang pada masa itu. Dia mencatat setidaknya ada lima orang Cina lainnya yang menetap di Palembang bersamanya. Dan ini hanya yang tercatat, kita tidak tahu sebanyak apa Bikhu Cina yang ada di Palembang dengan status kota itu sebagai pusat pembelajaran Buddha yang utama di luar India.
Uniknya, I-tsing telah datang ke Palembang 11 tahun sebelum Palembang berdiri. Palembang baru berdiri pada tahun 682 masehi sedangkan I-tsing telah tiba pada tahun 671 masehi. Solusi dari masalah ini adalah, Palembang sebenarnya sudah ada pada saat I-Tsing datang tetapi belum menjadi ibukota dari kadatuan Sriwijaya, yang diproklamasikan pada tahun 682. Ini terjadi karena tanggal pendirian kota Palembang didasarkan pada tanggal pendirian Kadatuan Sriwijaya.
Sekitar 700 tahun setelah I-Tsing, terdapat catatan mengenai orang Cina lain di Palembang. Liang Dao Ming adalah seorang pemimpin komunitas Cina di Palembang pada akhir abad kelimabelas. Dia sebagai pemilik usaha dagang dan perkapalan yang sukses di Palembang. Pada saat yang sama, hidup pula Chen Zuyi yang juga digambarkan sebagai pemimpin, tetapi pemimpin kelompok perompak yang bermarkas di Palembang dan beroperasi di perairan di muara sungai Musi dan sekitarnya sehingga mengganggu jalur perdagangan laut. Sepak terjang Chen Zuyi sebagai perompak tampaknya tersohor kemana-mana sehingga kekaisaran Cina merasa perlu membereskan mereka dan membawa pemimpinnya kembali ke Cina untuk menerima hukuman dari Kaisar. Berkat bantuan warga Cina lain di Palembang, Shi Jinqin, si kepala perompak akhirnya berhasil ditangkap oleh Zheng He dan membuat kelompok perompak itu bubar.
Banyaknya tokoh Cina yang berinteraksi di Palembang pada abad kelima belas menunjukkan bahwa pada masa itu jumlah orang Cina di Palembang telah cukup banyak sehingga kehadirannya cukup penting dan memberi pengaruh bagi komunitas lain di Palembang. Komunitas ini pasti tidak terbentuk dalam semalam. Orang Cina datang ke Palembang pastilah mengikuti rute lama yang telah ada sejak sebelum masa Sriwijaya, seperti yang dikatakan oleh I-Tsing 700 tahun sebelumnya bahwa Palembang adalah pelabuhan dagang utama yang berniaga dengan kekaisaran Cina.
Makin lama jumlah mereka semakin banyak dan akhirnya memiliki pengaruh besar. Setelah Liang Dao Ming dipanggil pulang ke Cina dan kepala perompak Chen Zuyi ditangkap, Shi Jinqin ditunjuk menjadi kepala komunitas Cina di Palembang. Keluarga Cina muslim ini berdagang sampai ke Taiwan. Putri Shi Jinqin yang bernama Shi Daniang lalu hijrah ke Jawa dan menjadi kepala pelabuhan di Gresik. Disana dia tersohor dengan nama Nyai Gede Pinatih.
Setelah kesultanan Palembang berdiri, orang Cina masih tetap memiliki peran penting. Mereka mendapatkan tugas dari Sultan Palembang untuk menjalankan perdagangan lada di hulu Sungai Musi dan semua anak sungainya. Saat perang Palembang berlangsung di 1659/0, komunitas Cina memiliki perkampungannya sendiri di seberang Kuto Gawang. Saat Belanda menduduki Palembang di tahun 1821, permukiman warga Cina berada di seberang Pasar 16 Ilir, sekitar Kelenteng 10 Ulu saat ini.
Pada masa kemerdekaan, orang Cina turut serta dalam perjuangan. Warga Palembang dari etnik Cina ikut menjadi korban dalam perang lima hari lima malam, sebagian karena bertempur dan sebagian lainnya menjadi korban bombardier militer Belanda. Tong Djoe adalah pedagang besar dan memiliki sejumlah kapal. Dia menyediakan kapalnya untuk dipakai oleh AK Gani dalam usaha menyelundupkan persenjataan dari pasar gelap Singapura ke Palembang. Tanpa kapal-kapal milik Tong Djoe, gelar ‘Penyelundup terbesar di Asia Tenggara’ tidak akan diraih oleh AK Gani.
Inilah riwayat panjang kehadiran orang Cina di Palembang. Selama 1400 tahun mereka hidup di Palembang, melakukan interaksi dengan etnik lainnya, memperkaya khazanah kebudayaan Palembang, bahu membahu membangun kota itu, dan ikut mempertahankannya dari masa ke masa.