Trật tự từ tiếng Nhật cơ bản là Chủ ngữ – Bổ ngữ – Động từ. Sự liên kết Chủ ngữ, Bổ ngữ hay các yếu tố ngữ pháp khác thường được đánh dấu bằng trợ từ joshi (助詞) hay teniwoha (てにをは) làm hậu tố cho các từ mà nó bổ nghĩa, do đó các trợ từ này được gọi là các hậu vị từ.
Cấu trúc câu cơ bản là chủ đề-bổ đề. Ví dụ, Kochira-wa Tanaka-san desu. (こちらは田中さんです) Kochira (“đây”) là chủ đề của câu, được chỉ ra bởi trợ từ -wa. Động từ là desu, một hệ động từ, thường được dịch là “là” hoặc “nó là” (dù có nhiều động từ có thể dịch nghĩa “là”). Cụm từ Tanaka-san desu là bổ đề. Câu này có thể dịch một cách đại khái là “Người này, (đó) là Ông/Bà/Cô Tanaka”. Do đó tiếng Nhật, giống như tiếng Trung, tiếng Hàn, và nhiều thứ tiếng châu Á khác, thường được gọi là ngôn ngữ nổi bật chủ đề, điều này có nghĩa nó có một xu hướng biểu thị chủ đề tách biệt khỏi chủ ngữ và chúng không trùng khớp nhau. Câu Zō-wa hana-ga nagai (desu) (象は鼻が長いです) tạm dịch thô là, “Còn về con voi, mũi (của nó) thì dài”. Chủ đề zō “con voi”, và chủ ngữ là hana “mũi”.
Tiếng Nhật là một ngôn ngữ lược bỏ đại từ, có nghĩa là chủ ngữ hay bổ ngữ của một câu không cần phải được nêu ra nếu nó là hiển nhiên trong ngữ cảnh đó. Ngoài ra, người ta thường cảm thấy, đặc biệt trong văn nói tiếng Nhật, câu càng ngắn càng hay. Kết quả của sự dễ dãi và xu hướng giản lược của ngữ pháp là người nói tiếng Nhật có xu hướng loại bỏ các từ ra khỏi câu một cách tự nhiên chứ không dùng đại từ. Trong ngữ cảnh của ví dụ trên, hana-ga nagai sẽ có nghĩa là “mũi [của chúng] thì dài,” còn nagai đứng một mình sẽ là “[chúng] thì dài”. Một động từ đơn cũng có thể là một câu hoàn chỉnh: Yatta! “[Tôi / Chúng ta /Họ/ …vv] đã làm [điều đó]!”. Ngoài ra, do các tính từ có thể tạo thành vị ngữ trong một câu tiếng Nhật, một tính từ đơn có thể là một câu hòan chỉnh: Urayamashii! “[Tôi] ghen tị [về điều đó]!”.
Trong khi ngôn ngữ này có một số từ thường được dịch như đại từ, chúng lại không được dùng thường xuyên như các đại từ ở một vài ngôn ngữ Ấn-Âu, và có chức năng khác hẳn. Thay cho đại từ, tiếng Nhật thường dựa trên các hình thức động từ và trợ động từ đặc biệt để chỉ ra đối tượng nhận hành động: “hướng vào” để chỉ nhóm ngoài làm lợi cho nhóm trong; và “hướng ra” để chỉ nhóm trong làm lợi cho nhóm ngoài. Ở đây, những nhóm trong bao gồm người nói còn nhóm ngoài thì ngược lại, và ranh giới của chúng thì phụ thuộc vào ngữ cảnh. Ví dụ, oshiete moratta (có nghĩa, “giải thích” với người được hưởng hành động là nhóm trong) nghĩa là “[ông ta/bà ta/họ] đã giải thích cho [tôi/chúng tôi]”. Tương tự như thế, oshiete ageta (có nghĩa, “giải thích” với người được hưởng hành động là nhóm ngoài) nghĩa là “[Tôi/chúng tôi] đã giải thích [việc đó] cho [anh ta/cô ta/họ]”. Do đó, những trợ động từ “có lợi” có chức năng tương tự với các đại từ và giới từ trong các ngôn ngữ Ấn-Âu để chỉ ra người thực hiện hành động và người tiếp nhận hành động.
“Giới từ” trong tiếng Nhật cũng có chức năng khác biệt với phần lớn các đại từ của các ngôn ngữ Ấn-Âu hiện đại (và giống với các danh từ hơn) ở chỗ chúng có thể có bổ từ như danh từ. Ví dụ, chúng ta không thể nói như sau trong tiếng Anh:
*The amazed he ran down the street. (không đúng ngữ pháp)
Nhưng ta có thể về cơ bản nói đúng ngữ pháp câu tương tự trong tiếng Nhật:
Odoroita kare-wa michi-o hashitte itta. (đúng ngữ pháp)
Điều này một phần là do các từ này tiến triển từ các danh từ thông thường, như kimi “cậu (tớ)” (từ 君”quân”, “ngài”), anata “bạn, anh…” (từ あなた “phía đó, đằng kia”), và boku “Tôi, tao, tớ…” (từ 僕 “thị, bầy tôi”). Đây là lý do tại sao các nhà ngôn ngữ học không xếp “đại từ” tiếng Nhật vào nhóm đại từ, mà phân vào danh từ tham chiếu. Những đại từ nhân xưng tiếng Nhật thường chỉ được dùng trong các tình huống yêu cầu nhấn mạnh đặc biệt như ai đang làm gì đối với ai.
Việc lựa chọn từ để sử dụng làm đại từ tương ứng với giới tính của người nói và tình huống xã hội khi đang nói chuyện: nam giới và nữ giới dùng đại từ nhân xưng ngôi thứ nhất giống nhau, thường gọi mình là watashi (私 “tư”) hay watakushi (cũng 私), còn nam giới trong các hội thoại suồng sã thường sử dụng từ ore (俺 “chính mình”, “chính tao”) hay boku nhiều hơn. Tương tự, các từ khác như anata, kimi, và omae (お前, hay chính thức hơn là 御前 “ngự tiền, người trước tôi”) có thể được sử dụng nói đến người nghe tùy thuộc vào địa vị xã hội và mức độ thân mật giữa người nói với người nghe. Khi được sử dụng trong các mối quan hệ xã hội khác, cùng một từ đó có thể có các ý nghĩa tích cực (thân mật hoặc tôn kính) hoặc tiêu cực (không thân mật hoặc bất kính).
Người Nhật thường sử dụng tước vị của người được đề cập mà trong trường hợp đó tiếng Anh sẽ dùng các đại từ. Ví dụ, khi nói về thầy giáo của mình, gọi sensei (先生, “tiên sinh”) là cách dùng đúng, còn sử dụng anata là không thích hợp. Điều này là do anata được sử dụng để đề cập những người có địa vị bằng hoặc thấp hơn, và thầy của mình thì có địa vị cao hơn.
Đối với nhiều người nói tiếng Anh, việc đưa watashi-wa hoặc anata-wa vào đầu câu tiếng Nhật là điều thường xảy ra. Dù các câu này về mặt ngữ pháp là đúng nhưng chúng lại nghe có vẻ kỳ cục ngay cả trong hoàn cảnh chính thức. Điều này gần tương tự với việc sử dụng lặp đi lặp lại một danh từ trong tiếng Anh, khi một đại từ đã là đủ: “John sắp đến, vì thế hãy đảm bảo là bạn chuẩn bị cho John một cái bánh sandwich vì John thích bánh sandwich. Mình hy vọng John thích cái váy mình đang mặc.. .”
Hỗ trợ học Hán Tự