1
2
3
4
5
6
7
8
9
10#include <linux/delay.h>
11#include <linux/kernel.h>
12#include <linux/init.h>
13#include <linux/of_device.h>
14#include <linux/pci.h>
15#include <linux/platform_device.h>
16#include <linux/resource.h>
17#include <linux/signal.h>
18#include <linux/types.h>
19#include <linux/interrupt.h>
20#include <linux/mfd/syscon.h>
21#include <linux/regmap.h>
22
23#include "pcie-designware.h"
24
25#define to_artpec6_pcie(x) dev_get_drvdata((x)->dev)
26
27enum artpec_pcie_variants {
28 ARTPEC6,
29 ARTPEC7,
30};
31
32struct artpec6_pcie {
33 struct dw_pcie *pci;
34 struct regmap *regmap;
35 void __iomem *phy_base;
36 enum artpec_pcie_variants variant;
37 enum dw_pcie_device_mode mode;
38};
39
40struct artpec_pcie_of_data {
41 enum artpec_pcie_variants variant;
42 enum dw_pcie_device_mode mode;
43};
44
45static const struct of_device_id artpec6_pcie_of_match[];
46
47
48#define PCIECFG 0x18
49#define PCIECFG_DBG_OEN BIT(24)
50#define PCIECFG_CORE_RESET_REQ BIT(21)
51#define PCIECFG_LTSSM_ENABLE BIT(20)
52#define PCIECFG_DEVICE_TYPE_MASK GENMASK(19, 16)
53#define PCIECFG_CLKREQ_B BIT(11)
54#define PCIECFG_REFCLK_ENABLE BIT(10)
55#define PCIECFG_PLL_ENABLE BIT(9)
56#define PCIECFG_PCLK_ENABLE BIT(8)
57#define PCIECFG_RISRCREN BIT(4)
58#define PCIECFG_MODE_TX_DRV_EN BIT(3)
59#define PCIECFG_CISRREN BIT(2)
60#define PCIECFG_MACRO_ENABLE BIT(0)
61
62#define PCIECFG_REFCLKSEL BIT(23)
63#define PCIECFG_NOC_RESET BIT(3)
64
65#define PCIESTAT 0x1c
66
67#define PCIESTAT_EXTREFCLK BIT(3)
68
69#define NOCCFG 0x40
70#define NOCCFG_ENABLE_CLK_PCIE BIT(4)
71#define NOCCFG_POWER_PCIE_IDLEACK BIT(3)
72#define NOCCFG_POWER_PCIE_IDLE BIT(2)
73#define NOCCFG_POWER_PCIE_IDLEREQ BIT(1)
74
75#define PHY_STATUS 0x118
76#define PHY_COSPLLLOCK BIT(0)
77
78#define PHY_TX_ASIC_OUT 0x4040
79#define PHY_TX_ASIC_OUT_TX_ACK BIT(0)
80
81#define PHY_RX_ASIC_OUT 0x405c
82#define PHY_RX_ASIC_OUT_ACK BIT(0)
83
84static u32 artpec6_pcie_readl(struct artpec6_pcie *artpec6_pcie, u32 offset)
85{
86 u32 val;
87
88 regmap_read(artpec6_pcie->regmap, offset, &val);
89 return val;
90}
91
92static void artpec6_pcie_writel(struct artpec6_pcie *artpec6_pcie, u32 offset, u32 val)
93{
94 regmap_write(artpec6_pcie->regmap, offset, val);
95}
96
97static u64 artpec6_pcie_cpu_addr_fixup(struct dw_pcie *pci, u64 pci_addr)
98{
99 struct artpec6_pcie *artpec6_pcie = to_artpec6_pcie(pci);
100 struct pcie_port *pp = &pci->pp;
101 struct dw_pcie_ep *ep = &pci->ep;
102
103 switch (artpec6_pcie->mode) {
104 case DW_PCIE_RC_TYPE:
105 return pci_addr - pp->cfg0_base;
106 case DW_PCIE_EP_TYPE:
107 return pci_addr - ep->phys_base;
108 default:
109 dev_err(pci->dev, "UNKNOWN device type\n");
110 }
111 return pci_addr;
112}
113
114static int artpec6_pcie_establish_link(struct dw_pcie *pci)
115{
116 struct artpec6_pcie *artpec6_pcie = to_artpec6_pcie(pci);
117 u32 val;
118
119 val = artpec6_pcie_readl(artpec6_pcie, PCIECFG);
120 val |= PCIECFG_LTSSM_ENABLE;
121 artpec6_pcie_writel(artpec6_pcie, PCIECFG, val);
122
123 return 0;
124}
125
126static void artpec6_pcie_stop_link(struct dw_pcie *pci)
127{
128 struct artpec6_pcie *artpec6_pcie = to_artpec6_pcie(pci);
129 u32 val;
130
131 val = artpec6_pcie_readl(artpec6_pcie, PCIECFG);
132 val &= ~PCIECFG_LTSSM_ENABLE;
133 artpec6_pcie_writel(artpec6_pcie, PCIECFG, val);
134}
135
136static const struct dw_pcie_ops dw_pcie_ops = {
137 .cpu_addr_fixup = artpec6_pcie_cpu_addr_fixup,
138 .start_link = artpec6_pcie_establish_link,
139 .stop_link = artpec6_pcie_stop_link,
140};
141
142static void artpec6_pcie_wait_for_phy_a6(struct artpec6_pcie *artpec6_pcie)
143{
144 struct dw_pcie *pci = artpec6_pcie->pci;
145 struct device *dev = pci->dev;
146 u32 val;
147 unsigned int retries;
148
149 retries = 50;
150 do {
151 usleep_range(1000, 2000);
152 val = artpec6_pcie_readl(artpec6_pcie, NOCCFG);
153 retries--;
154 } while (retries &&
155 (val & (NOCCFG_POWER_PCIE_IDLEACK | NOCCFG_POWER_PCIE_IDLE)));
156 if (!retries)
157 dev_err(dev, "PCIe clock manager did not leave idle state\n");
158
159 retries = 50;
160 do {
161 usleep_range(1000, 2000);
162 val = readl(artpec6_pcie->phy_base + PHY_STATUS);
163 retries--;
164 } while (retries && !(val & PHY_COSPLLLOCK));
165 if (!retries)
166 dev_err(dev, "PHY PLL did not lock\n");
167}
168
169static void artpec6_pcie_wait_for_phy_a7(struct artpec6_pcie *artpec6_pcie)
170{
171 struct dw_pcie *pci = artpec6_pcie->pci;
172 struct device *dev = pci->dev;
173 u32 val;
174 u16 phy_status_tx, phy_status_rx;
175 unsigned int retries;
176
177 retries = 50;
178 do {
179 usleep_range(1000, 2000);
180 val = artpec6_pcie_readl(artpec6_pcie, NOCCFG);
181 retries--;
182 } while (retries &&
183 (val & (NOCCFG_POWER_PCIE_IDLEACK | NOCCFG_POWER_PCIE_IDLE)));
184 if (!retries)
185 dev_err(dev, "PCIe clock manager did not leave idle state\n");
186
187 retries = 50;
188 do {
189 usleep_range(1000, 2000);
190 phy_status_tx = readw(artpec6_pcie->phy_base + PHY_TX_ASIC_OUT);
191 phy_status_rx = readw(artpec6_pcie->phy_base + PHY_RX_ASIC_OUT);
192 retries--;
193 } while (retries && ((phy_status_tx & PHY_TX_ASIC_OUT_TX_ACK) ||
194 (phy_status_rx & PHY_RX_ASIC_OUT_ACK)));
195 if (!retries)
196 dev_err(dev, "PHY did not enter Pn state\n");
197}
198
199static void artpec6_pcie_wait_for_phy(struct artpec6_pcie *artpec6_pcie)
200{
201 switch (artpec6_pcie->variant) {
202 case ARTPEC6:
203 artpec6_pcie_wait_for_phy_a6(artpec6_pcie);
204 break;
205 case ARTPEC7:
206 artpec6_pcie_wait_for_phy_a7(artpec6_pcie);
207 break;
208 }
209}
210
211static void artpec6_pcie_init_phy_a6(struct artpec6_pcie *artpec6_pcie)
212{
213 u32 val;
214
215 val = artpec6_pcie_readl(artpec6_pcie, PCIECFG);
216 val |= PCIECFG_RISRCREN |
217 PCIECFG_MODE_TX_DRV_EN |
218 PCIECFG_CISRREN |
219 PCIECFG_MACRO_ENABLE;
220 val |= PCIECFG_REFCLK_ENABLE;
221 val &= ~PCIECFG_DBG_OEN;
222 val &= ~PCIECFG_CLKREQ_B;
223 artpec6_pcie_writel(artpec6_pcie, PCIECFG, val);
224 usleep_range(5000, 6000);
225
226 val = artpec6_pcie_readl(artpec6_pcie, NOCCFG);
227 val |= NOCCFG_ENABLE_CLK_PCIE;
228 artpec6_pcie_writel(artpec6_pcie, NOCCFG, val);
229 usleep_range(20, 30);
230
231 val = artpec6_pcie_readl(artpec6_pcie, PCIECFG);
232 val |= PCIECFG_PCLK_ENABLE | PCIECFG_PLL_ENABLE;
233 artpec6_pcie_writel(artpec6_pcie, PCIECFG, val);
234 usleep_range(6000, 7000);
235
236 val = artpec6_pcie_readl(artpec6_pcie, NOCCFG);
237 val &= ~NOCCFG_POWER_PCIE_IDLEREQ;
238 artpec6_pcie_writel(artpec6_pcie, NOCCFG, val);
239}
240
241static void artpec6_pcie_init_phy_a7(struct artpec6_pcie *artpec6_pcie)
242{
243 struct dw_pcie *pci = artpec6_pcie->pci;
244 u32 val;
245 bool extrefclk;
246
247
248 val = artpec6_pcie_readl(artpec6_pcie, PCIESTAT);
249 extrefclk = !!(val & PCIESTAT_EXTREFCLK);
250 dev_dbg(pci->dev, "Using reference clock: %s\n",
251 extrefclk ? "external" : "internal");
252
253 val = artpec6_pcie_readl(artpec6_pcie, PCIECFG);
254 val |= PCIECFG_RISRCREN |
255 PCIECFG_PCLK_ENABLE;
256 if (extrefclk)
257 val |= PCIECFG_REFCLKSEL;
258 else
259 val &= ~PCIECFG_REFCLKSEL;
260 artpec6_pcie_writel(artpec6_pcie, PCIECFG, val);
261 usleep_range(10, 20);
262
263 val = artpec6_pcie_readl(artpec6_pcie, NOCCFG);
264 val |= NOCCFG_ENABLE_CLK_PCIE;
265 artpec6_pcie_writel(artpec6_pcie, NOCCFG, val);
266 usleep_range(20, 30);
267
268 val = artpec6_pcie_readl(artpec6_pcie, NOCCFG);
269 val &= ~NOCCFG_POWER_PCIE_IDLEREQ;
270 artpec6_pcie_writel(artpec6_pcie, NOCCFG, val);
271}
272
273static void artpec6_pcie_init_phy(struct artpec6_pcie *artpec6_pcie)
274{
275 switch (artpec6_pcie->variant) {
276 case ARTPEC6:
277 artpec6_pcie_init_phy_a6(artpec6_pcie);
278 break;
279 case ARTPEC7:
280 artpec6_pcie_init_phy_a7(artpec6_pcie);
281 break;
282 }
283}
284
285static void artpec6_pcie_assert_core_reset(struct artpec6_pcie *artpec6_pcie)
286{
287 u32 val;
288
289 val = artpec6_pcie_readl(artpec6_pcie, PCIECFG);
290 switch (artpec6_pcie->variant) {
291 case ARTPEC6:
292 val |= PCIECFG_CORE_RESET_REQ;
293 break;
294 case ARTPEC7:
295 val &= ~PCIECFG_NOC_RESET;
296 break;
297 }
298 artpec6_pcie_writel(artpec6_pcie, PCIECFG, val);
299}
300
301static void artpec6_pcie_deassert_core_reset(struct artpec6_pcie *artpec6_pcie)
302{
303 u32 val;
304
305 val = artpec6_pcie_readl(artpec6_pcie, PCIECFG);
306 switch (artpec6_pcie->variant) {
307 case ARTPEC6:
308 val &= ~PCIECFG_CORE_RESET_REQ;
309 break;
310 case ARTPEC7:
311 val |= PCIECFG_NOC_RESET;
312 break;
313 }
314 artpec6_pcie_writel(artpec6_pcie, PCIECFG, val);
315 usleep_range(100, 200);
316}
317
318static int artpec6_pcie_host_init(struct pcie_port *pp)
319{
320 struct dw_pcie *pci = to_dw_pcie_from_pp(pp);
321 struct artpec6_pcie *artpec6_pcie = to_artpec6_pcie(pci);
322
323 if (artpec6_pcie->variant == ARTPEC7) {
324 pci->n_fts[0] = 180;
325 pci->n_fts[1] = 180;
326 }
327 artpec6_pcie_assert_core_reset(artpec6_pcie);
328 artpec6_pcie_init_phy(artpec6_pcie);
329 artpec6_pcie_deassert_core_reset(artpec6_pcie);
330 artpec6_pcie_wait_for_phy(artpec6_pcie);
331
332 return 0;
333}
334
335static const struct dw_pcie_host_ops artpec6_pcie_host_ops = {
336 .host_init = artpec6_pcie_host_init,
337};
338
339static void artpec6_pcie_ep_init(struct dw_pcie_ep *ep)
340{
341 struct dw_pcie *pci = to_dw_pcie_from_ep(ep);
342 struct artpec6_pcie *artpec6_pcie = to_artpec6_pcie(pci);
343 enum pci_barno bar;
344
345 artpec6_pcie_assert_core_reset(artpec6_pcie);
346 artpec6_pcie_init_phy(artpec6_pcie);
347 artpec6_pcie_deassert_core_reset(artpec6_pcie);
348 artpec6_pcie_wait_for_phy(artpec6_pcie);
349
350 for (bar = 0; bar < PCI_STD_NUM_BARS; bar++)
351 dw_pcie_ep_reset_bar(pci, bar);
352}
353
354static int artpec6_pcie_raise_irq(struct dw_pcie_ep *ep, u8 func_no,
355 enum pci_epc_irq_type type, u16 interrupt_num)
356{
357 struct dw_pcie *pci = to_dw_pcie_from_ep(ep);
358
359 switch (type) {
360 case PCI_EPC_IRQ_LEGACY:
361 dev_err(pci->dev, "EP cannot trigger legacy IRQs\n");
362 return -EINVAL;
363 case PCI_EPC_IRQ_MSI:
364 return dw_pcie_ep_raise_msi_irq(ep, func_no, interrupt_num);
365 default:
366 dev_err(pci->dev, "UNKNOWN IRQ type\n");
367 }
368
369 return 0;
370}
371
372static const struct dw_pcie_ep_ops pcie_ep_ops = {
373 .ep_init = artpec6_pcie_ep_init,
374 .raise_irq = artpec6_pcie_raise_irq,
375};
376
377static int artpec6_pcie_probe(struct platform_device *pdev)
378{
379 struct device *dev = &pdev->dev;
380 struct dw_pcie *pci;
381 struct artpec6_pcie *artpec6_pcie;
382 int ret;
383 const struct of_device_id *match;
384 const struct artpec_pcie_of_data *data;
385 enum artpec_pcie_variants variant;
386 enum dw_pcie_device_mode mode;
387 u32 val;
388
389 match = of_match_device(artpec6_pcie_of_match, dev);
390 if (!match)
391 return -EINVAL;
392
393 data = (struct artpec_pcie_of_data *)match->data;
394 variant = (enum artpec_pcie_variants)data->variant;
395 mode = (enum dw_pcie_device_mode)data->mode;
396
397 artpec6_pcie = devm_kzalloc(dev, sizeof(*artpec6_pcie), GFP_KERNEL);
398 if (!artpec6_pcie)
399 return -ENOMEM;
400
401 pci = devm_kzalloc(dev, sizeof(*pci), GFP_KERNEL);
402 if (!pci)
403 return -ENOMEM;
404
405 pci->dev = dev;
406 pci->ops = &dw_pcie_ops;
407
408 artpec6_pcie->pci = pci;
409 artpec6_pcie->variant = variant;
410 artpec6_pcie->mode = mode;
411
412 artpec6_pcie->phy_base =
413 devm_platform_ioremap_resource_byname(pdev, "phy");
414 if (IS_ERR(artpec6_pcie->phy_base))
415 return PTR_ERR(artpec6_pcie->phy_base);
416
417 artpec6_pcie->regmap =
418 syscon_regmap_lookup_by_phandle(dev->of_node,
419 "axis,syscon-pcie");
420 if (IS_ERR(artpec6_pcie->regmap))
421 return PTR_ERR(artpec6_pcie->regmap);
422
423 platform_set_drvdata(pdev, artpec6_pcie);
424
425 switch (artpec6_pcie->mode) {
426 case DW_PCIE_RC_TYPE:
427 if (!IS_ENABLED(CONFIG_PCIE_ARTPEC6_HOST))
428 return -ENODEV;
429
430 pci->pp.ops = &artpec6_pcie_host_ops;
431
432 ret = dw_pcie_host_init(&pci->pp);
433 if (ret < 0)
434 return ret;
435 break;
436 case DW_PCIE_EP_TYPE:
437 if (!IS_ENABLED(CONFIG_PCIE_ARTPEC6_EP))
438 return -ENODEV;
439
440 val = artpec6_pcie_readl(artpec6_pcie, PCIECFG);
441 val &= ~PCIECFG_DEVICE_TYPE_MASK;
442 artpec6_pcie_writel(artpec6_pcie, PCIECFG, val);
443
444 pci->ep.ops = &pcie_ep_ops;
445
446 return dw_pcie_ep_init(&pci->ep);
447 default:
448 dev_err(dev, "INVALID device type %d\n", artpec6_pcie->mode);
449 }
450
451 return 0;
452}
453
454static const struct artpec_pcie_of_data artpec6_pcie_rc_of_data = {
455 .variant = ARTPEC6,
456 .mode = DW_PCIE_RC_TYPE,
457};
458
459static const struct artpec_pcie_of_data artpec6_pcie_ep_of_data = {
460 .variant = ARTPEC6,
461 .mode = DW_PCIE_EP_TYPE,
462};
463
464static const struct artpec_pcie_of_data artpec7_pcie_rc_of_data = {
465 .variant = ARTPEC7,
466 .mode = DW_PCIE_RC_TYPE,
467};
468
469static const struct artpec_pcie_of_data artpec7_pcie_ep_of_data = {
470 .variant = ARTPEC7,
471 .mode = DW_PCIE_EP_TYPE,
472};
473
474static const struct of_device_id artpec6_pcie_of_match[] = {
475 {
476 .compatible = "axis,artpec6-pcie",
477 .data = &artpec6_pcie_rc_of_data,
478 },
479 {
480 .compatible = "axis,artpec6-pcie-ep",
481 .data = &artpec6_pcie_ep_of_data,
482 },
483 {
484 .compatible = "axis,artpec7-pcie",
485 .data = &artpec7_pcie_rc_of_data,
486 },
487 {
488 .compatible = "axis,artpec7-pcie-ep",
489 .data = &artpec7_pcie_ep_of_data,
490 },
491 {},
492};
493
494static struct platform_driver artpec6_pcie_driver = {
495 .probe = artpec6_pcie_probe,
496 .driver = {
497 .name = "artpec6-pcie",
498 .of_match_table = artpec6_pcie_of_match,
499 .suppress_bind_attrs = true,
500 },
501};
502builtin_platform_driver(artpec6_pcie_driver);
503
