ARM: tegra11x: Fix TimerValue data type
[linux-3.10.git] / arch / arm / mach-tegra / timer.c
1 /*
2  * arch/arch/mach-tegra/timer.c
3  *
4  * Copyright (C) 2010 Google, Inc.
5  *
6  * Author:
7  *      Colin Cross <ccross@google.com>
8  *
9  * Copyright (C) 2010-2012 NVIDIA Corporation.
10  *
11  * This software is licensed under the terms of the GNU General Public
12  * License version 2, as published by the Free Software Foundation, and
13  * may be copied, distributed, and modified under those terms.
14  *
15  * This program is distributed in the hope that it will be useful,
16  * but WITHOUT ANY WARRANTY; without even the implied warranty of
17  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
18  * GNU General Public License for more details.
19  *
20  */
21
22 #include <linux/init.h>
23 #include <linux/err.h>
24 #include <linux/time.h>
25 #include <linux/interrupt.h>
26 #include <linux/irq.h>
27 #include <linux/clockchips.h>
28 #include <linux/clocksource.h>
29 #include <linux/clk.h>
30 #include <linux/cpu.h>
31 #include <linux/io.h>
32 #include <linux/syscore_ops.h>
33 #include <linux/cpu_pm.h>
34
35 #include <asm/mach/time.h>
36 #include <asm/arch_timer.h>
37 #include <asm/cputype.h>
38 #include <asm/delay.h>
39 #include <asm/smp_twd.h>
40 #include <asm/system.h>
41 #include <asm/sched_clock.h>
42
43 #include <mach/irqs.h>
44 #include <mach/hardware.h>
45
46 #include "board.h"
47 #include "clock.h"
48 #include "iomap.h"
49 #include "timer.h"
50 #include "fuse.h"
51
52 extern int __init arch_timer_register(struct arch_timer *at);
53
54 static void __iomem *timer_reg_base = IO_ADDRESS(TEGRA_TMR1_BASE);
55 static void __iomem *rtc_base = IO_ADDRESS(TEGRA_RTC_BASE);
56
57 static struct timespec persistent_ts;
58 static u64 persistent_ms, last_persistent_ms;
59 static u32 usec_config;
60 static u32 usec_offset;
61 static bool usec_suspended;
62
63 #ifdef CONFIG_ARCH_TEGRA_2x_SOC
64 static u32 system_timer = (TEGRA_TMR3_BASE - TEGRA_TMR1_BASE);
65 #else
66 static u32 system_timer = 0;
67 #endif
68
69 #define timer_writel(value, reg) \
70         __raw_writel(value, timer_reg_base + (reg))
71 #define timer_readl(reg) \
72         __raw_readl(timer_reg_base + (reg))
73
74 static int tegra_timer_set_next_event(unsigned long cycles,
75                                          struct clock_event_device *evt)
76 {
77         u32 reg;
78
79         reg = 0x80000000 | ((cycles > 1) ? (cycles-1) : 0);
80         timer_writel(reg, system_timer + TIMER_PTV);
81
82         return 0;
83 }
84
85 static void tegra_timer_set_mode(enum clock_event_mode mode,
86                                     struct clock_event_device *evt)
87 {
88         u32 reg;
89
90         timer_writel(0, system_timer + TIMER_PTV);
91
92         switch (mode) {
93         case CLOCK_EVT_MODE_PERIODIC:
94                 reg = 0xC0000000 | ((1000000/HZ)-1);
95                 timer_writel(reg, system_timer + TIMER_PTV);
96                 break;
97         case CLOCK_EVT_MODE_ONESHOT:
98                 break;
99         case CLOCK_EVT_MODE_UNUSED:
100         case CLOCK_EVT_MODE_SHUTDOWN:
101         case CLOCK_EVT_MODE_RESUME:
102                 break;
103         }
104 }
105
106 static struct clock_event_device tegra_clockevent = {
107         .name           = "timer0",
108         .rating         = 300,
109         .features       = CLOCK_EVT_FEAT_ONESHOT | CLOCK_EVT_FEAT_PERIODIC,
110         .set_next_event = tegra_timer_set_next_event,
111         .set_mode       = tegra_timer_set_mode,
112 };
113
114 static u32 notrace tegra_read_usec(void)
115 {
116         u32 cyc = usec_offset;
117         if (!usec_suspended)
118                 cyc += timer_readl(TIMERUS_CNTR_1US);
119         return cyc;
120 }
121
122 static u32 notrace tegra_read_sched_clock(void)
123 {
124         return tegra_read_usec();
125 }
126
127 /*
128  * tegra_rtc_read - Reads the Tegra RTC registers
129  * Care must be taken that this funciton is not called while the
130  * tegra_rtc driver could be executing to avoid race conditions
131  * on the RTC shadow register
132  */
133 static u64 tegra_rtc_read_ms(void)
134 {
135         u32 ms = readl(rtc_base + RTC_MILLISECONDS);
136         u32 s = readl(rtc_base + RTC_SHADOW_SECONDS);
137         return (u64)s * MSEC_PER_SEC + ms;
138 }
139
140 /*
141  * tegra_read_persistent_clock -  Return time from a persistent clock.
142  *
143  * Reads the time from a source which isn't disabled during PM, the
144  * 32k sync timer.  Convert the cycles elapsed since last read into
145  * nsecs and adds to a monotonically increasing timespec.
146  * Care must be taken that this funciton is not called while the
147  * tegra_rtc driver could be executing to avoid race conditions
148  * on the RTC shadow register
149  */
150 static void tegra_read_persistent_clock(struct timespec *ts)
151 {
152         u64 delta;
153         struct timespec *tsp = &persistent_ts;
154
155         last_persistent_ms = persistent_ms;
156         persistent_ms = tegra_rtc_read_ms();
157         delta = persistent_ms - last_persistent_ms;
158
159         timespec_add_ns(tsp, delta * NSEC_PER_MSEC);
160         *ts = *tsp;
161 }
162
163 static irqreturn_t tegra_timer_interrupt(int irq, void *dev_id)
164 {
165         struct clock_event_device *evt = (struct clock_event_device *)dev_id;
166         timer_writel(1<<30, system_timer + TIMER_PCR);
167         evt->event_handler(evt);
168         return IRQ_HANDLED;
169 }
170
171 static struct irqaction tegra_timer_irq = {
172         .name           = "timer0",
173         .flags          = IRQF_DISABLED | IRQF_TIMER | IRQF_TRIGGER_HIGH,
174         .handler        = tegra_timer_interrupt,
175         .dev_id         = &tegra_clockevent,
176 #ifdef CONFIG_ARCH_TEGRA_2x_SOC
177         .irq            = INT_TMR3,
178 #else
179         .irq            = INT_TMR1,
180 #endif
181 };
182
183 static int tegra_timer_suspend(void)
184 {
185         usec_config = timer_readl(TIMERUS_USEC_CFG);
186
187         usec_offset += timer_readl(TIMERUS_CNTR_1US);
188         usec_suspended = true;
189
190         return 0;
191 }
192
193 static void tegra_timer_resume(void)
194 {
195         timer_writel(usec_config, TIMERUS_USEC_CFG);
196
197         usec_offset -= timer_readl(TIMERUS_CNTR_1US);
198         usec_suspended = false;
199 }
200
201 static struct syscore_ops tegra_timer_syscore_ops = {
202         .suspend = tegra_timer_suspend,
203         .resume = tegra_timer_resume,
204 };
205
206 #ifdef CONFIG_HAVE_ARM_TWD
207 static DEFINE_TWD_LOCAL_TIMER(twd_local_timer,
208                               TEGRA_ARM_PERIF_BASE + 0x600,
209                               IRQ_LOCALTIMER);
210 static void __iomem *tegra_twd_base = IO_ADDRESS(TEGRA_ARM_PERIF_BASE + 0x600);
211
212 void __init tegra_cpu_timer_init(void)
213 {
214         struct clk *cpu, *twd_clk;
215         int err;
216
217         /* The twd clock is a detached child of the CPU complex clock.
218            Force an update of the twd clock after DVFS has updated the
219            CPU clock rate. */
220
221         twd_clk = tegra_get_clock_by_name("twd");
222         BUG_ON(!twd_clk);
223         cpu = tegra_get_clock_by_name("cpu");
224         err = clk_set_rate(twd_clk, clk_get_rate(cpu));
225
226         if (err)
227                 pr_err("Failed to set twd clock rate: %d\n", err);
228         else
229                 pr_debug("TWD clock rate: %ld\n", clk_get_rate(twd_clk));
230 }
231
232 int tegra_twd_get_state(struct tegra_twd_context *context)
233 {
234         context->twd_ctrl = readl(tegra_twd_base + TWD_TIMER_CONTROL);
235         context->twd_load = readl(tegra_twd_base + TWD_TIMER_LOAD);
236         context->twd_cnt = readl(tegra_twd_base + TWD_TIMER_COUNTER);
237
238         return 0;
239 }
240
241 void tegra_twd_suspend(struct tegra_twd_context *context)
242 {
243         context->twd_ctrl = readl(tegra_twd_base + TWD_TIMER_CONTROL);
244         context->twd_load = readl(tegra_twd_base + TWD_TIMER_LOAD);
245         if ((context->twd_load == 0) &&
246             (context->twd_ctrl & TWD_TIMER_CONTROL_PERIODIC) &&
247             (context->twd_ctrl & (TWD_TIMER_CONTROL_ENABLE |
248                                   TWD_TIMER_CONTROL_IT_ENABLE))) {
249                 WARN("%s: TWD enabled but counter was 0\n", __func__);
250                 context->twd_load = 1;
251         }
252         __raw_writel(0, tegra_twd_base + TWD_TIMER_CONTROL);
253 }
254
255 void tegra_twd_resume(struct tegra_twd_context *context)
256 {
257         BUG_ON((context->twd_load == 0) &&
258                (context->twd_ctrl & TWD_TIMER_CONTROL_PERIODIC) &&
259                (context->twd_ctrl & (TWD_TIMER_CONTROL_ENABLE |
260                                      TWD_TIMER_CONTROL_IT_ENABLE)));
261         writel(context->twd_load, tegra_twd_base + TWD_TIMER_LOAD);
262         writel(context->twd_ctrl, tegra_twd_base + TWD_TIMER_CONTROL);
263 }
264
265 static void __init tegra_init_late_timer(void)
266 {
267         int err = twd_local_timer_register(&twd_local_timer);
268         if (err)
269                 pr_err("twd_timer_register failed %d\n", err);
270 }
271 #else
272 #define tegra_twd_get_state     do {} while(0)
273 #define tegra_twd_suspend       do {} while(0)
274 #define tegra_twd_resume        do {} while(0)
275 #endif
276
277 #ifdef CONFIG_ARM_ARCH_TIMER
278 int arch_timer_get_state(struct arch_timer_context *context)
279 {
280         s32 val;
281
282         asm volatile("mrc p15, 0, %0, c14, c2, 0" : "=r" (val));
283         context->cntp_tval = val;
284         asm volatile("mrc p15, 0, %0, c14, c2, 1" : "=r" (val));
285         context->cntp_ctl = val;
286         asm volatile("mrc p15, 0, %0, c14, c0, 0" : "=r" (val));
287         context->cntfrq = val;
288         return 0;
289 }
290
291 void arch_timer_suspend(struct arch_timer_context *context)
292 {
293         s32 val;
294
295         asm volatile("mrc p15, 0, %0, c14, c2, 0" : "=r" (val));
296         context->cntp_tval = val;
297         asm volatile("mrc p15, 0, %0, c14, c2, 1" : "=r" (val));
298         context->cntp_ctl = val;
299 }
300
301 void arch_timer_resume(struct arch_timer_context *context)
302 {
303         s32 val;
304
305         val = context->cntp_tval;
306         asm volatile("mcr p15, 0, %0, c14, c2, 0" : : "r"(val));
307         val = context->cntp_ctl;
308         asm volatile("mcr p15, 0, %0, c14, c2, 1" : : "r"(val));
309 }
310 #else
311 #define arch_timer_get_state do {} while(0)
312 #define arch_timer_suspend do {} while(0)
313 #define arch_timer_resume do {} while(0)
314 #endif
315
316 #ifdef CONFIG_ARM_ARCH_TIMER
317
318 /* Time Stamp Counter (TSC) base address */
319 static void __iomem *tsc = IO_ADDRESS(TEGRA_TSC_BASE);
320 static bool arch_timer_initialized;
321
322 #define TSC_CNTCR               0               /* TSC control registers */
323 #define TSC_CNTCR_ENABLE        (1 << 0)        /* Enable*/
324 #define TSC_CNTCR_HDBG          (1 << 1)        /* Halt on debug */
325
326 #define TSC_CNTCV0              0x8             /* TSC counter (LSW) */
327 #define TSC_CNTCV1              0xC             /* TSC counter (MSW) */
328 #define TSC_CNTFID0             0x20            /* TSC freq id 0 */
329
330 #define tsc_writel(value, reg) \
331         __raw_writel(value, tsc + (reg))
332 #define tsc_readl(reg) \
333         __raw_readl(tsc + (reg))
334
335
336 /* Is the optional system timer available? */
337 static int local_timer_is_architected(void)
338 {
339 #ifdef CONFIG_TEGRA_SIMULATION_PLATFORM
340         /* HACK: The simulator does not yet support arch timers. */
341         return 0;
342 #else
343         return (cpu_architecture() >= CPU_ARCH_ARMv7) &&
344                ((read_cpuid_ext(CPUID_EXT_PFR1) >> 16) & 0xf) == 1;
345 #endif
346 }
347
348 void __init tegra_cpu_timer_init(void)
349 {
350         u32 tsc_ref_freq;
351         u32 reg;
352
353         if (!local_timer_is_architected())
354                 return;
355
356         tsc_ref_freq = tegra_clk_measure_input_freq();
357         if (tsc_ref_freq == 115200 || tsc_ref_freq == 230400) {
358                 /*
359                  * OSC detection function will bug out if revision is not QT and
360                  * the detected frequency is one of these two.
361                  */
362                 tsc_ref_freq = 13000000;
363                 pr_info("fake tsc_ref_req=%d in QT\n", tsc_ref_freq);
364         }
365
366         /* Set the Timer System Counter (TSC) reference frequency
367            NOTE: this is a write once register */
368         tsc_writel(tsc_ref_freq, TSC_CNTFID0);
369
370         /* Program CNTFRQ to the same value.
371            NOTE: this is a write once (per CPU reset) register. */
372         __asm__("mcr p15, 0, %0, c14, c0, 0\n" : : "r" (tsc_ref_freq));
373
374         /* CNTFRQ must agree with the TSC reference frequency. */
375         __asm__("mrc p15, 0, %0, c14, c0, 0\n" : "=r" (reg));
376         BUG_ON(reg != tsc_ref_freq);
377
378         /* Enable the TSC. */
379         reg = tsc_readl(TSC_CNTCR);
380         reg |= TSC_CNTCR_ENABLE | TSC_CNTCR_HDBG;
381         tsc_writel(reg, TSC_CNTCR);
382 }
383
384 static void tegra_arch_timer_per_cpu_init(void)
385 {
386         if (arch_timer_initialized) {
387                 u32 tsc_ref_freq = tegra_clk_measure_input_freq();
388
389                 /*
390                  * OSC detection function will bug out if revision is not QT and
391                  * the detected frequency is one of these two.
392                  */
393                 if (tsc_ref_freq == 115200 || tsc_ref_freq == 230400)
394                         tsc_ref_freq = 13000000;
395
396                 /* Program CNTFRQ to the input frequency.
397                    NOTE: this is a write once (per CPU reset) register. */
398                 __asm__("mcr p15, 0, %0, c14, c0, 0\n" : : "r" (tsc_ref_freq));
399         }
400 }
401
402 static int arch_timer_cpu_notify(struct notifier_block *self,
403                                     unsigned long action, void *data)
404 {
405         switch (action) {
406         case CPU_STARTING:
407         case CPU_STARTING_FROZEN:
408                 tegra_arch_timer_per_cpu_init();
409                 break;
410         default:
411                 break;
412         }
413
414         return NOTIFY_OK;
415 }
416
417 static struct notifier_block arch_timer_cpu_nb = {
418         .notifier_call = arch_timer_cpu_notify,
419 };
420
421 static int arch_timer_cpu_pm_notify(struct notifier_block *self,
422                                     unsigned long action, void *data)
423 {
424         switch (action) {
425         case CPU_PM_EXIT:
426                 tegra_arch_timer_per_cpu_init();
427                 break;
428         }
429
430         return NOTIFY_OK;
431 }
432
433 static struct notifier_block arch_timer_cpu_pm_nb = {
434         .notifier_call = arch_timer_cpu_pm_notify,
435 };
436
437 static int __init tegra_init_arch_timer(void)
438 {
439         int err;
440
441         if (!local_timer_is_architected())
442                 return -ENODEV;
443
444         err = arch_timer_sched_clock_init();
445         if (err) {
446                 pr_err("%s: Unable to initialize arch timer sched_clock: %d\n",
447                      __func__, err);
448                 return err;
449         }
450
451         register_cpu_notifier(&arch_timer_cpu_nb);
452         cpu_pm_register_notifier(&arch_timer_cpu_pm_nb);
453         arch_timer_initialized = true;
454         return 0;
455 }
456
457 static struct arch_timer tegra_arch_timer = {
458         .res[0] = {
459                 .start  = 29,
460                 .end    = 29,
461                 .flags  = IORESOURCE_IRQ,
462         },
463         .res[1] = {
464                 .start  = 30,
465                 .end    = 30,
466                 .flags  = IORESOURCE_IRQ,
467         },
468 };
469
470 static void __init tegra_init_late_timer(void)
471 {
472         int err = -ENODEV;
473
474         if (arch_timer_initialized) {
475                 err = arch_timer_register(&tegra_arch_timer);
476                 if (err)
477                         pr_err("%s: Unable to register arch timer: %d\n",
478                              __func__, err);
479         }
480 }
481
482 #ifdef CONFIG_PM_SLEEP
483
484 static void __iomem *pmc = IO_ADDRESS(TEGRA_PMC_BASE);
485 static u32 tsc_suspend_start;
486 static u32 tsc_resume_start;
487
488 #define pmc_writel(value, reg) \
489                 writel(value, pmc + (reg))
490 #define pmc_readl(reg) \
491                 readl(pmc + (reg))
492
493 #define PMC_DPD_ENABLE                  0x24
494 #define PMC_DPD_ENABLE_TSC_MULT_ENABLE  (1 << 1)
495
496 #define PMC_TSC_MULT                    0x2b4
497 #define PMC_TSC_MULT_FREQ_STS           (1 << 16)
498
499 #define TSC_TIMEOUT_US                  32
500
501 void tegra_tsc_suspend(void)
502 {
503         if (arch_timer_initialized) {
504                 u32 reg = pmc_readl(PMC_DPD_ENABLE);
505                 BUG_ON(reg & PMC_DPD_ENABLE_TSC_MULT_ENABLE);
506                 reg |= PMC_DPD_ENABLE_TSC_MULT_ENABLE;
507                 pmc_writel(reg, PMC_DPD_ENABLE);
508                 tsc_suspend_start = timer_readl(TIMERUS_CNTR_1US);
509         }
510 }
511
512 void tegra_tsc_resume(void)
513 {
514         if (arch_timer_initialized) {
515                 u32 reg = pmc_readl(PMC_DPD_ENABLE);
516                 BUG_ON(!(reg & PMC_DPD_ENABLE_TSC_MULT_ENABLE));
517                 reg &= ~PMC_DPD_ENABLE_TSC_MULT_ENABLE;
518                 pmc_writel(reg, PMC_DPD_ENABLE);
519                 tsc_resume_start = timer_readl(TIMERUS_CNTR_1US);
520         }
521 }
522
523 void tegra_tsc_wait_for_suspend(void)
524 {
525         if (arch_timer_initialized) {
526                 while ((timer_readl(TIMERUS_CNTR_1US) - tsc_suspend_start) <
527                         TSC_TIMEOUT_US) {
528                         if (pmc_readl(PMC_TSC_MULT) & PMC_TSC_MULT_FREQ_STS)
529                                 break;
530                         cpu_relax();
531                 }
532         }
533 }
534
535 void tegra_tsc_wait_for_resume(void)
536 {
537         if (arch_timer_initialized) {
538                 while ((timer_readl(TIMERUS_CNTR_1US) - tsc_resume_start) <
539                         TSC_TIMEOUT_US) {
540                         if (!(pmc_readl(PMC_TSC_MULT) & PMC_TSC_MULT_FREQ_STS))
541                                 break;
542                         cpu_relax();
543                 }
544         }
545 }
546
547 #endif
548
549 #else
550 static inline int tegra_init_arch_timer(void) { return -ENODEV; }
551 static inline int tegra_init_late_arch_timer(void) { return -ENODEV; }
552 #endif
553
554 extern void __tegra_delay(unsigned long cycles);
555 extern void __tegra_const_udelay(unsigned long loops);
556 extern void __tegra_udelay(unsigned long usecs);
557
558 void __init tegra_init_timer(void)
559 {
560         struct clk *clk;
561         int ret;
562         unsigned long rate;
563
564         clk = clk_get_sys("timer", NULL);
565         if (IS_ERR(clk)) {
566                 pr_warn("Unable to get timer clock. Assuming 12Mhz input clock.\n");
567                 rate = 12000000;
568         } else {
569                 clk_prepare_enable(clk);
570                 rate = clk_get_rate(clk);
571         }
572
573         /*
574          * rtc registers are used by read_persistent_clock, keep the rtc clock
575          * enabled
576          */
577         clk = clk_get_sys("rtc-tegra", NULL);
578         if (IS_ERR(clk))
579                 pr_warn("Unable to get rtc-tegra clock\n");
580         else
581                 clk_prepare_enable(clk);
582
583         switch (rate) {
584         case 12000000:
585                 timer_writel(0x000b, TIMERUS_USEC_CFG);
586                 break;
587         case 13000000:
588                 timer_writel(0x000c, TIMERUS_USEC_CFG);
589                 break;
590         case 19200000:
591                 timer_writel(0x045f, TIMERUS_USEC_CFG);
592                 break;
593         case 26000000:
594                 timer_writel(0x0019, TIMERUS_USEC_CFG);
595                 break;
596 #ifndef CONFIG_ARCH_TEGRA_2x_SOC
597         case 16800000:
598                 timer_writel(0x0453, TIMERUS_USEC_CFG);
599                 break;
600         case 38400000:
601                 timer_writel(0x04BF, TIMERUS_USEC_CFG);
602                 break;
603         case 48000000:
604                 timer_writel(0x002F, TIMERUS_USEC_CFG);
605                 break;
606 #endif
607         default:
608                 if (tegra_revision == TEGRA_REVISION_QT) {
609                         timer_writel(0x000c, TIMERUS_USEC_CFG);
610                         break;
611                 }
612                 WARN(1, "Unknown clock rate");
613         }
614
615 #ifdef CONFIG_ARCH_TEGRA_2x_SOC
616         tegra20_init_timer();
617 #else
618         tegra30_init_timer();
619 #endif
620
621         /* Architectural timers take precedence over broadcast timers.
622            Only register a broadcast clockevent device if architectural
623            timers do not exist or cannot be initialized. */
624         if (tegra_init_arch_timer())
625                 /* Architectural timers do not exist or cannot be initialzied.
626                    Fall back to using the broadcast timer as the sched clock. */
627                 setup_sched_clock(tegra_read_sched_clock, 32, 1000000);
628
629         ret = clocksource_mmio_init(timer_reg_base + TIMERUS_CNTR_1US,
630                 "timer_us", 1000000, 300, 32,
631                 clocksource_mmio_readl_up);
632         if (ret) {
633                 pr_err("%s: Failed to register clocksource: %d\n",
634                         __func__, ret);
635                 BUG();
636         }
637
638         ret = setup_irq(tegra_timer_irq.irq, &tegra_timer_irq);
639         if (ret) {
640                 pr_err("%s: Failed to register timer IRQ: %d\n",
641                         __func__, ret);
642                 BUG();
643         }
644
645         clockevents_calc_mult_shift(&tegra_clockevent, 1000000, 5);
646         tegra_clockevent.max_delta_ns =
647                 clockevent_delta2ns(0x1fffffff, &tegra_clockevent);
648         tegra_clockevent.min_delta_ns =
649                 clockevent_delta2ns(0x1, &tegra_clockevent);
650         tegra_clockevent.cpumask = cpu_all_mask;
651         tegra_clockevent.irq = tegra_timer_irq.irq;
652         clockevents_register_device(&tegra_clockevent);
653
654         register_syscore_ops(&tegra_timer_syscore_ops);
655         late_time_init = tegra_init_late_timer;
656
657         register_persistent_clock(NULL, tegra_read_persistent_clock);
658
659         arm_delay_ops.delay             = __tegra_delay;
660         arm_delay_ops.const_udelay      = __tegra_const_udelay;
661         arm_delay_ops.udelay            = __tegra_udelay;
662 }